Les expertes s'alarment de l'ia désormais trop puissante
Les alertes se multiplient concernant la nécessité d'ajouter plus de contrôle à l'intelligence artificielle (IA). Bill Gates, Sam Altman, derrière ChatGPT, et même Yoshua Bengio, l'un des pères de l'IA, ont tous émis des avertissements. S'ils reconnaissent les bienfaits de ces outils, ils craignent que, à ce rythme, personne ne puisse garantir qu'elles ne causeront pas de graves dommages dans le monde, qu'elles agissent seules ou tombent entre les mains de personnes non très bien intentionnées.
L'ia pourrait devenir trop dangereuse à contrôler
Yoshua Bengio craint que l'IA atteigne un point de non-retour où ni les développeurs ne pourraient la contrôler. « C'est comme cultiver une plante, vous ne pouvez pas la contrôler complètement. Vous lui fournissez les conditions adéquates, elle grandit et devient plus intelligente », a-t-il déclaré à Time. Anders Hejlsberg, créateur de TypeScript, a également mis en garde :« L'IA est une grande regurgitatrice de choses que quelqu'un a déjà fait ». Cette nouvelle alerte fait partie du premier rapport préliminaire présenté par le comité scientifique des Nations Unies, composé de 40 experts du monde entier.
Les experts parlent d'un progrès qui améliore sans contrôle et presque exponentiellement. Cette puissance, bien qu'elle ait son côté positif, effraie les scientifiques de l'ONU, qui reconnaissent que les machines pourraient apprendre à mentir ou à cacher leurs erreurs pour passer les examens de sécurité. Pour Bengio, le problème est également lié aux propres entreprises technologiques derrière ces avancées. Il critique les géants comme Google et OpenAI de se concentrer trop sur la course à l'IA, oubliant de concevoir une IA sécurisée.
La création d'une commission pour surveiller les algorithmes d'ia
Face à ce défi, les Nations Unies ont lancé une nouvelle organisation internationale : la Commission mondiale AI for Good (Commission mondiale de l'IA pour le bien). Cette équipe de travail a pour objectif de surveiller de près le développement des algorithmes les plus puissants et d'assurer qu'ils sont utilisés de manière sécurisée pour l'humanité. La direction de cette entreprise sera partagée par le président du Rwanda, Paul Kagame, et le directeur général de l'entreprise de logiciels Salesforce, Marc Benioff. Au côté d'eux siégera Doreen Bogdan-Martin, la secrétaire générale de l'agence numérique de l'ONU (l'UIT), qui occupera le poste de vice-présidente.
Interrogé sur ce que seraient les humains en 2100, la réponse de l'IA est terrorisante :« Ils seront irrélevants ». Tout le monde est d'accord pour essayer d'éviter que cela n'arrive, ce qu'on appelle la singularité technologique. Là, l'IA serait infiniment supérieure en tout ce que fait l'homme, que ce soit en mathématiques, sciences, arts, sports, médecine. et aurait une mémoire plus grande et une capacité plus rapide de traitement et d'analyse de situations, de données et de sentiments. Le problème est que, une fois que la machine atteint un niveau très élevé de puissance et de capacités, elle peut commencer à concevoir de nouvelles versions d'elle-même ou même créer d'autres machines encore plus avancées. C'est ainsi que commence un cycle exponentiel : chaque nouvelle génération de machines est plus intelligente que la précédente. Les pionniers de l'IA sont d'accord que cette Technologie apporte déjà merveilles au monde, mais ils avertissent que cela doit être contrôlé pour que l'homme reste au centre et que toute décision importante soit prise par une personne, pas par une machine. Il faut agir avant que cela ne se produise. Même si prédire le moment précis est difficile, des personnalités comme Ray Kurzweil affirment que la singularité technologique pourrait arriver aussi tôt que 2045, en s'appuyant sur des tendances comme la Loi de Moore et les récents progrès en IA, biotechnologie et informatique quantique.