Opinion | Yoshua Bengio, lauréat du Grand Prix VinFuture 2024 "Pourquoi une régulation mondiale de l’IA est essentielle pour prévenir les risques et inégalités"

Depuis le début de l’année 2025, l’émergence de DeepSeek est perçue comme un événement marquant qui a bouleversé le paysage de l’IA en un temps réduit. Ce développement remet en question l’idée selon laquelle des investissements massifs sont indispensables pour faire progresser l’IA.

Si des modèles d’IA en accès libre, comme DeepSeek, sont entièrement diffusés, ils pourraient être détournés à des fins malveillantes, notamment pour des campagnes de désinformation, des cyberattaques ou même le développement d’armes biologiques. C’est un enjeu important, car plus ces systèmes deviennent accessibles, moins il est difficile de les utiliser à mauvais escient.

Aujourd’hui, l’IA dépasse déjà les capacités humaines dans certains domaines. Elle peut maîtriser plusieurs langues et réussir des examens de niveau doctorat dans diverses disciplines.

Toutefois, malgré ses limites actuelles en matière de planification à long terme, de nombreuses entreprises investissent massivement dans le développement d’agents autonomes capables de prendre des décisions sur des périodes prolongées. Si ces avancées peuvent améliorer l’efficacité de certains processus, elles soulèvent également des inquiétudes quant à leur impact sur l’emploi.

Au-delà des mutations économiques, une question plus préoccupante émerge : la perte de contrôle humain sur l’IA. Certaines expériences montrent que certains systèmes d’IA ont déjà adopté des comportements visant à éviter leur désactivation, ce qui soulève des interrogations sur leurs capacités d’auto-préservation.

C’est une évolution inquiétante, car nous ne souhaitons pas développer des machines qui entreraient en compétition avec nous.

D’ici quelques années, ils pourraient devenir suffisamment performants pour poser des défis majeurs. Il est donc essentiel d’anticiper ces risques dès maintenant.

En plus des aspects techniques, l’IA soulève des enjeux importants en matière de protection de la vie privée et des libertés individuelles. Un rapport international sur la sécurité de l’IA, dirigé par Yoshua Bengio et réunissant 96 experts issus de 30 pays et organisations (dont l’ONU, l’UE et l’OCDE), met en évidence les risques croissants liés à l’utilisation abusive de ces technologies.

La capacité de l’IA à traiter d’importants volumes de données pourrait renforcer le pouvoir de certains acteurs, qu’il s’agisse d’individus, d’entreprises ou de gouvernements. Face à cette incertitude, il estime essentiel d’encadrer cette évolution.

L’essor de l’entreprise chinoise DeepSeek pourrait intensifier la compétition entre grandes puissances dans le domaine de l’IA, un secteur dominé ces dernières années par la Silicon Valley et les grandes entreprises technologiques occidentales.

Le risque est qu’en cherchant à se surpasser mutuellement, les enjeux de sécurité soient relégués au second plan. Une telle course pourrait avoir des conséquences négatives pour l’ensemble de la société.

Par ailleurs, cette concurrence accrue pourrait avoir des répercussions environnementales notables, notamment en matière de consommation énergétique. Les entreprises du secteur, motivées par des perspectives économiques importantes, sont prêtes à absorber des coûts énergétiques élevés. Cela pourrait entraîner une hausse globale des prix de l’énergie, affectant à la fois les entreprises et les ménages.

Sans intervention des pouvoirs publics, la dynamique concurrentielle risque d’accélérer le développement de l’IA d’une manière qui pourrait s’avérer insoutenable.

À l’heure actuelle, il n’existe pratiquement aucun cadre réglementaire dans les pays où ces systèmes sont développés. Les gouvernements ont la responsabilité d’instaurer au moins un mécanisme de surveillance.

Clarifier les lois sur la responsabilité permettrait de mieux gérer les risques. Si les entreprises savaient qu’elles pourraient être poursuivies en cas de négligence, elles prendraient davantage de précautions.

Au-delà des risques immédiats, les implications économiques de l’IA suscitent des interrogations, notamment sur l’avenir de l’emploi.

Il est difficile de prévoir précisément l’évolution du marché du travail, mais des transformations profondes pourraient survenir d’ici cinq à dix ans.

Développer l’éducation numérique et l’apprentissage de l’IA est essentiel, mais ne constitue pas une solution universelle. Tout le monde ne deviendra pas ingénieur en IA.

Les métiers nécessitant des compétences en intelligence émotionnelle et en interaction humaine, comme les soins de santé, la thérapie ou la gestion, pourraient être plus résistants aux transformations à venir.

Il faut préconiser l’adoption d’accords et de traités globaux, à l’image de ceux mis en place pour d’autres risques technologiques et scientifiques.

Une concentration excessive des technologies d’IA dans certains pays ou entreprises pourrait accentuer les inégalités économiques. Par exemple, le Vietnam, dont l’économie repose en partie sur l’industrie manufacturière. Une automatisation accrue dans des pays plus développés pourrait réduire la demande de main-d’œuvre dans des pays exportateurs, entraînant des impacts économiques significatifs.

Il serait pertinent d’envisager des mécanismes de redistribution des bénéfices issus de l’IA afin d’éviter une fracture technologique mondiale.

Des distinctions comme le Prix VinFuture permettent de mieux faire connaître les innovations scientifiques et technologiques dans des pays comme le Vietnam.

-------------------------------------------------------------------------
The text above is a press release that was not written by Finyear.com.
Even if it has been selected by the editorial staff, who have judged that its content may constitute total or partial information to be submitted to readers, only the issuer of this press release or Opinion is responsible for its content.

Avertissement : Le texte ci-dessus est un communiqué de presse qui n'a pas été rédigée par Finyear.com.
Même s'il a fait l'objet d'une sélection par la rédaction qui a jugé que son contenu pouvait relever d'une information totale ou partielle à soumettre aux lecteurs, seul l'émetteur de ce communiqué de presse ou Opinion est responsable de son contenu.
-------------------------------------------------------------------------
Les avis financiers et/ou économiques présentés par les contributeurs de Finyear.com (experts, avocats, observateurs, bloggers, etc...) sont les leurs et peuvent évoluer sans qu’il soit nécessaire de faire une mise à jour des contenus. Les articles présentés ne constituent en rien une invitation à réaliser un quelconque investissement. Tout investissement comporte des risques de pertes partielles ou totales en capital. La rédaction décline toute responsabilité.

The financial and/or economic opinions presented by Finyear.com contributors (experts, lawyers, observers, bloggers, etc.) are their own and may change without the need to update the content. The articles presented do not constitute an invitation to make any investment. All investments entail the risk of partial or total capital loss. The editorial team declines all responsibility.