El jefe de Amazon, preocupado por la seguridad de los modelos de Anthropic

El CEO de Amazon, Andy Jassy, pudo haber advertido al gobierno sobre los problemas de seguridad que llevaron a restricciones de acceso global en dos modelos de Anthropic. Según The Wall Street Journal, Jassy informó al Secretario del Tesoro de EE. UU., Scott Bessent, y a otros funcionarios que los investigadores de Amazon utilizaron el modelo Claude Fable 5 para extraer datos que podrían ser utilizados en ciberataques. Así lo informa Techcrunch.com informa .

Tras esta advertencia, el gobierno de EE. UU. impuso restricciones de control de exportación a los modelos Fable 5 y Mythos 5. Un portavoz de Amazon declaró al WSJ que es una práctica habitual que los gobiernos consulten con la empresa sobre posibles riesgos de seguridad, pero que los detalles de dichas discusiones se mantienen confidenciales.

The Information y Reuters también confirmaron que Amazon, un inversor importante en Anthropic, expresó sus preocupaciones sobre la seguridad de estos modelos. Según los informes, la posibilidad de obtener datos confidenciales a través de modelos de IA se evaluó como un riesgo grave.

Según David Sacks, exasesor de IA de la administración de Donald Trump, Anthropic y un socio de confianza del gobierno de EE. UU. informaron sobre una condición de "jailbreak" en el modelo. Sacks afirma que el gobierno pidió al CEO de Anthropic, Dario Amodei, que corrigiera el error o apagara el modelo, pero Amodei se negó.