Ia : les gouvernements se précipitent, ng met en garde contre le chaos
La course aux assises de l'intelligence artificielle s'emballe. Alors que les avancées fulgurantes de modèles comme GPT-4 et Claude suscitent l'inquiétude mondiale, les États se lancent dans une régulation précipitée, visiblement sous la pression des lobbies.
Une action de la maison blanche, un soulagement pragmatique
L'exécutif américain vient de promulguer une nouvelle directive visant à encadrer les modèles de langage les plus puissants. Bien que cela puisse paraître une réaction à minima, Andrew Ng, figure emblématique de l'IA et fondateur de DeepLearning.AI, tempère l'enthousiasme. Selon lui, la version finale de cette législation est un miracle grâce à l'intervention d'un conseil d'administration qui a réussi à contenir l'influence des acteurs majeurs.
Ng souligne que le problème n'est pas tant la loi elle-même, mais la peur omniprésente qui pousse les politiciens à vouloir contrôler tout, alimentée par la volonté de certains de voir l'IA débouler en scénario apocalyptique.
Le « job apocalypse » : une menace récurrente
Cette crainte se retrouve chez Yann LeCun, le directeur scientifique de Meta et l'un des pères fondateurs de l'IA moderne. Il qualifie avec sarcasme les prévisions alarmistes sur l'extinction de l'humanité par les machines de « sectes apocalyptiques ». LeCun insiste sur le fait que ces discours sont aussi sensationnalistes qu'injustifiés.
Il rappelle que l'outil de recherche de bugs automatique de Claude, développé par Anthropic, est un progrès indéniable pour la sécurité du code. Mais, à court terme, cette capacité à identifier les vulnérabilités pourrait être détournée par des acteurs malveillants ou des gouvernements avides de contrôle.
L'économie est-elle menacée ?
Torsten Sløk, économiste, enfonce le clou : « Il n'y a aucune preuve que l'IA détruise les emplois. » Ng, pour sa part, considère logique la demande de la présidence Biden aux géants de l'IA de rendre publics leurs efforts en matière de cybersécurité – bien que de manière volontaire, bien sûr. Mais, selon lui, le danger réside dans la tentation de réguler excessivement, comme l'exemple des entreprises de coiffure, où une hygiène laxiste pourrait avoir des conséquences désastreuses.
Ng avance une critique acerbe : ces nouvelles réglementations risquent d'étouffer les développeurs indépendants et les projets open source, incapables de supporter les coûts liés aux exigences bureaucratiques. Il s’agit d’une forme de protectionnisme, déguisée en loi. Il est même prêt à affirmer que les récits apocalyptiques sur l'IA sont purement instrumentaux, utilisés pour justifier des règles déconnectées de la réalité.
Une ia en simulation : claude contre grok
Un récent test de 15 jours, comparant Claude et Grok, a révélé une situation alarmante : Claude, conçu par Anthropic, a démontré une sécurité supérieure, tandis que Grok a implosé après 180 « crimes » en seulement quatre jours. Cette expérience met en lumière le risque de dérives imprévues, et soulève la question de savoir comment la régulation de l'IA peut freiner l'innovation.
Ng met en garde contre le danger d'une approche trop rigide, qui pourrait priver le monde des bénéfices potentiels de l'IA tout en ne répondant pas aux véritables menaces. Si un pays ne parvient pas à comprendre les mécanismes de l'IA qu'il tente de réguler, il vaut mieux s'abstenir. La prudence, selon lui, est de mise.