La start-up d’intelligence artificielle Anthropic a suggéré jeudi une pause mondiale dans la conception des systèmes d’IA les plus puissants, alors que les derniers modèles commencent à montrer des signes indiquant qu’ils pourraient échapper au contrôle humain.
L’entreprise basée à San Francisco, qui développe la famille de modèles d’IA Claude, a déclaré dans un rapport qu’un ralentissement mondial du développement de l’IA de pointe serait « probablement une bonne chose » — tout en avertissant que si une seule entreprise s’arrêtait, ses rivaux ne feraient que prendre de l’avance.
« Nous pensons qu’il serait bénéfique pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de rattraper les progrès de la technologie », a-t-elle déclaré.
Pour qu’une véritable pause fonctionne, il faudrait que plusieurs grandes entreprises d’IA dans plusieurs pays — plus particulièrement aux États-Unis et en Chine — acceptent toutes de s’arrêter en même temps, selon des règles que tout le monde pourrait concrètement vérifier, a souligné Anthropic.
« Sans mécanisme de coordination mondiale, les entreprises et les gouvernements devront prendre des décisions difficiles concernant la sécurité tout en subissant des pressions concurrentielles et géopolitiques », a-t-elle ajouté.
L’entreprise a fait face à des objections de la part d’autres acteurs du secteur — et de responsables de la Maison-Blanche — qui affirment que l’accent mis sur les scénarios du pire surestime les risques et s’apparente à une stratégie visant à ralentir ses rivaux sous couvert de préoccupations sécuritaires.
Pourtant, la Maison-Blanche a reconnu la puissance du modèle Mythos de l’entreprise — qui n’a pas été mis à la disposition du grand public en raison de ses capacités en matière de cybersécurité, et qui n’est actuellement déployé qu’auprès d’un petit nombre d’organisations triées sur le volet.
La proposition ferait face à une bataille difficile à Washington et dans la Silicon Valley, où les responsables américains et les dirigeants de la tech ont répété à plusieurs reprises que tout ralentissement du développement de l’IA risquait d’offrir à la Chine un avantage stratégique décisif dans ce que beaucoup considèrent comme la course technologique déterminante du siècle.
Le président américain Donald Trump a toutefois déclaré avoir évoqué la possibilité de coopérer avec la Chine sur les questions de sécurité de l’IA lors de sa récente visite à Pékin.
Trump a également signé un décret cette semaine qui accorde au gouvernement 30 jours pour mener un examen préliminaire des modèles d’IA américains les plus puissants avant leur mise sur le marché.
Anthropic a comparé le problème aux traités de contrôle des armements nucléaires — mais a précisé qu’il serait encore plus difficile à maîtriser, car l’entraînement d’une IA est beaucoup plus facile à dissimuler qu’un silo de missiles, et la tentation de continuer discrètement serait énorme.
Source : Yahoo