Anthropic y el Debate sobre la Alineación de la IA

El concepto de 'derecho internacional' es ilusorio, ya que su eficacia depende de su aplicabilidad, lo cual requiere una entidad capaz de imponerlo, algo que no existe actualmente. En el ámbito tecnológico, Anthropic se enfrenta al Departamento de Guerra de EE.UU. debido a su postura sobre el uso de la IA en vigilancia masiva y armas autónomas. Anthropic sostiene que ciertas aplicaciones de IA son incompatibles con los valores democráticos y no deberían ser incluidas en contratos militares. Sin embargo, el Departamento de Guerra exige que las empresas de IA acepten cualquier uso legal de sus tecnologías, amenazando con designar a Anthropic como un riesgo para la cadena de suministro si no cumple.

El CEO de Anthropic, Dario Amodei, ha expresado preocupaciones sobre la venta de chips avanzados a China, comparándola con vender armas nucleares a Corea del Norte, destacando el impacto potencial de la IA en la seguridad nacional. La postura de Anthropic ha generado un debate sobre quién debería decidir el uso de la IA: empresas privadas o el gobierno electo. La situación refleja tensiones más amplias sobre el control de tecnologías poderosas y la importancia de mantener la supervisión democrática.

Amodei ha criticado la proliferación de modelos de IA de código abierto, argumentando que el poder debería estar en manos de pocos guardianes responsables, aunque esto ignora los incentivos para desarrollar otros modelos. En un mundo con proliferación de IA, la mejor defensa contra la IA es más IA, lo que hace que el código abierto sea más seguro. La postura de Anthropic sugiere un enfoque singular en ser el único ganador con todo el poder, sin considerar cómo otros actores podrían reaccionar.

El debate sobre la IA y su uso en la vigilancia y las operaciones militares subraya la necesidad de nuevas leyes y una supervisión responsable. La resistencia de Anthropic a ciertas aplicaciones de IA resuena ampliamente, pero la solución debe ser a través de leyes y no mediante decisiones unilaterales de ejecutivos no electos. La realidad es que otros países desarrollarán capacidades autónomas, y EE.UU. debe avanzar en esa dirección para seguir siendo la fuente última de derecho internacional.