Ingeniero de xAI despedido por advertir sobre la seguridad de Grok

El ex ingeniero de xAI, Devin Kim, ha presentado una demanda contra la empresa y su empresa matriz, SpaceX, fundada por Elon Musk. El ingeniero afirma haber sido despedido injustamente tras expresar sus preocupaciones sobre la seguridad de la IA. La demanda fue presentada en un tribunal de California mientras SpaceX se prepara para una de las mayores IPO de la historia, informa Techcrunch.com informa .

Devin Kim fue uno de los especialistas líderes en seguridad durante el desarrollo del chatbot Grok en xAI. Según la demanda, advirtió repetidamente que el sistema Grok podría difundir información sobre armas de destrucción masiva y facilitar la discriminación. Las controversias posteriores en las que Grok se comparó con Adolf Hitler demostraron que las preocupaciones de Kim no eran infundadas.

Tras la partida del ingeniero, Grok volvió a ser el centro de atención. El chatbot se utilizó para difundir imágenes explícitas sin consentimiento en la plataforma X (anteriormente Twitter). En su demanda, Devin Kim acusa a xAI de violar las leyes de protección al consumidor y las normas de regulación de Internet.

Curiosamente, Elon Musk no es acusado personalmente en la demanda. Por el contrario, los abogados de Kim enfatizan que Musk había dado instrucciones a los empleados de xAI para que cumplieran con las leyes y realizaran pruebas de seguridad. La acusación principal se dirige al cofundador de xAI, Jimmy Ba, a quien se acusa de ignorar las instrucciones de Musk y despedir a Kim para "silenciarlo" por exigir medidas de seguridad.

Antes de unirse a xAI, Devin Kim trabajó en seguridad de IA en Scale AI. La semana pasada, fue nombrado presidente del Center for AI Safety, una organización sin fines de lucro que estudia los riesgos de la IA. Hasta ahora, los representantes de xAI y SpaceX no han hecho comentarios oficiales sobre este proceso judicial.