Les restrictions de l'IA entravent le travail des experts en cybersécurité

Avec le développement des technologies d'IA, les grandes entreprises technologiques mettent en place des systèmes de protection stricts (guardrails) pour limiter l'utilisation malveillante de leurs modèles. Cependant, ces obstacles destinés à prévenir les cyberattaques posent désormais de sérieux problèmes non seulement aux cybercriminels, mais aussi aux chercheurs légitimes et aux ingénieurs en sécurité qui protègent les systèmes. C'est ce que rapporte Techcrunch.com rapporte .

Ces derniers mois, des entreprises leaders comme OpenAI et Anthropic ont lancé des programmes de vérification spéciaux pour sécuriser leurs modèles. Par exemple, les modèles Mythos et Fable d'Anthropic ont été soumis à un contrôle des exportations par le gouvernement américain en raison de craintes qu'ils puissent être utilisés pour mener des cyberattaques. Bien que ces restrictions aient été partiellement assouplies par la suite, les professionnels de la cybersécurité soulignent qu'une telle approche affaiblit les systèmes de défense.

La frontière ténue entre défense et attaque

Les chercheurs en cybersécurité doivent souvent penser comme des pirates informatiques et utiliser des outils similaires pour identifier et corriger les vulnérabilités des systèmes. Selon TechCrunch, lorsque de nombreux experts demandent aux modèles d'IA d'analyser du code et de trouver des erreurs, le système juge cela comme une « action dangereuse » et refuse de répondre.

Chris Anley, directeur scientifique chez NCC Group, explique qu'une commande visant à « corriger » un code logiciel peut servir à la fois de guide de défense et d'attaque. « Le même outil agit à la fois comme une arme d'attaque et de défense, et il est impossible de les distinguer. Si le modèle d'IA refuse d'analyser le code, cela complique le travail des défenseurs », déclare l'expert.

Les décisions subjectives des entreprises

Selon le célèbre chercheur en sécurité Mark Dowd, le fait que des entreprises privées déterminent indépendamment ce qui est sûr et ce qui est dangereux a un impact négatif sur le développement du secteur. Il souligne que les géants technologiques imposent des restrictions arbitraires sans tenir compte des aspects complexes de la cybersécurité.

Actuellement, OpenAI via son programme Trusted Access for Cyber et Anthropic via son Cyber Verification Program n'autorisent l'accès à des modèles moins restreints qu'aux organisations ayant passé une vérification spéciale. Cependant, cette politique de « portes fermées » limite les capacités des chercheurs indépendants.

En Ouzbékistan, la cybersécurité devient également un sujet de plus en plus pertinent. Le fait que les experts locaux soient confrontés à de tels obstacles lors de l'utilisation de modèles d'IA mondiaux pourrait ralentir le processus de protection des systèmes d'information du pays. En effet, pour contrer les cyberattaques modernes, les experts doivent avoir un accès complet aux outils intellectuels les plus avancés.