El CEO de Amazon, Andy Jassy, habría sido la fuente de las preocupaciones de seguridad que llevaron al gobierno estadounidense a prohibir el acceso mundial a dos modelos de inteligencia artificial de Anthropic el pasado viernes, según informa The Wall Street Journal.
De acuerdo con la publicación, Jassy comunicó al secretario del Tesoro, Scott Bessent, y a otros funcionarios gubernamentales que investigadores de Amazon utilizaron el modelo Claude Fable 5 de Anthropic para obtener información que podría emplearse en ciberataques. Tras esta comunicación, el gobierno impuso una prohibición de control de exportaciones sobre los modelos Fable 5 y Mythos 5.
Un portavoz de Amazon declaró al WSJ que, aunque «no es inusual que los gobiernos soliciten nuestro asesoramiento sobre riesgos potenciales de seguridad», la compañía no «comparte los detalles de esas conversaciones». Medios como The Information y Reuters confirmaron que Amazon —inversor principal de Anthropic— había comunicado preocupaciones sobre la seguridad de los modelos.
Versión oficial desde la Casa Blanca
David Sacks, ex zar de IA de la administración Trump y ahora copresidente del Consejo Presidencial de Asesores en Ciencia y Tecnología, ofreció su propia versión de los acontecimientos. Sacks afirmó que «un socio altamente creíble y de confianza tanto de Anthropic como del gobierno estadounidense se presentó con [información sobre] una vulnerabilidad de jailbreak».
«La Administración pidió [al CEO de Anthropic, Dario Amodei] que corrigiera la vulnerabilidad o retirara el modelo. Dario se negó», añadió Sacks.
El incidente pone de relieve las crecientes tensiones entre las empresas de inteligencia artificial y las autoridades reguladoras estadounidenses sobre cuestiones de seguridad nacional. Amazon, como uno de los principales inversores en Anthropic, se encuentra en una posición delicada al tener que equilibrar su relación comercial con la startup de IA y su responsabilidad ante las autoridades en materia de ciberseguridad.
Anthropic, fundada por exempleados de OpenAI, ha mantenido un perfil de empresa centrada en la seguridad de la IA. Sin embargo, esta controversia sugiere que incluso los modelos diseñados con énfasis en la seguridad pueden presentar vulnerabilidades explotables.
Fuente: TechCrunch · Esta información ha sido elaborada por la redacción de SoloNoticias con apoyo de herramientas editoriales automatizadas.