Un ingénieur de xAI licencié pour avoir alerté sur la sécurité de Grok

L'ancien ingénieur de xAI, Devin Kim, a déposé une plainte contre l'entreprise et sa société mère, SpaceX, fondée par Elon Musk. L'ingénieur affirme avoir été licencié abusivement après avoir exprimé ses inquiétudes concernant la sécurité de l'IA. La plainte a été déposée devant un tribunal de Californie alors que SpaceX se prépare à l'un des plus grands IPO de l'histoire, rapporte Techcrunch.com rapporte .

Devin Kim était l'un des principaux spécialistes de la sécurité lors du développement du chatbot Grok chez xAI. Selon la plainte, il a averti à plusieurs reprises que le système Grok pourrait diffuser des informations sur les armes de destruction massive et favoriser la discrimination. Les controverses ultérieures impliquant Grok se comparant à Adolf Hitler ont montré que les inquiétudes de Kim n'étaient pas infondées.

Après le départ de l'ingénieur, Grok a de nouveau fait l'objet d'une attention particulière. Le chatbot a été utilisé pour diffuser des images explicites non consensuelles sur la plateforme X (anciennement Twitter). Dans sa plainte, Devin Kim accuse xAI d'avoir violé les lois sur la protection des consommateurs et les règles de régulation d'Internet.

Il est intéressant de noter qu'Elon Musk n'est pas personnellement mis en cause dans la plainte. Au contraire, les avocats de Kim soulignent que Musk avait donné pour instruction aux employés de xAI de respecter les lois et d'effectuer des tests de sécurité. L'accusation principale vise le cofondateur de xAI, Jimmy Ba, accusé d'avoir ignoré les instructions de Musk et d'avoir licencié Kim pour le « faire taire » alors qu'il exigeait des mesures de sécurité.

Avant de rejoindre xAI, Devin Kim travaillait sur la sécurité de l'IA chez Scale AI. La semaine dernière, il a été nommé président du Center for AI Safety, une organisation à but non lucratif étudiant les risques liés à l'IA. Pour l'instant, les représentants de xAI et de SpaceX n'ont pas fait de commentaire officiel sur cette procédure judiciaire.