Geoffrey Hinton, Nobel de physique et « parrain » de l’IA, tire la sonnette d’alarme sur les dangers de l’intelligence artificielle

Breizh-Info s’arrêtera le 31 décembre s’il manque 14 000 euros

Depuis 2013, vous lisez Breizh-Info gratuitement. Le journal ne vit que de ses lecteurs : sans votre soutien d’ici la fin de l’année, il n’y aura pas de Breizh-Info en 2027.

50 300 € réunis sur 60 000 € (84 %) — il manque encore 9 700 €.

Publicité

Donner par PayPal
Virement ou chèque

Lire l’appel en entier

Chers lecteurs, chères lectrices,

Les caisses de Breizh-Info sont vides. Pour tenir une année de plus, il nous faut 14 000 euros avant le 31 décembre. Si cette somme n’est pas réunie, le site cessera de paraître, 13 ans après sa fondation.

Depuis 2013, Breizh-Info vous informe chaque jour, en accès libre : des articles, des enquêtes, des entretiens, une revue de presse quotidienne, et une voix bretonne qui dit ce que la presse installée tait ou travestit.

Pas un euro d’argent public

Pendant que les grands titres de la presse encaissent chaque année les aides publiques, Breizh-Info fonctionne sans subvention d’État, sans milliardaire actionnaire et sans la manne publicitaire des grands groupes. Cette indépendance a un prix : nous ne dépendons que de vous. Quand les dons ne suivent pas, personne ne vient combler le trou.

14 000 euros d’ici le 31 décembre

Cette somme correspond à une année de fonctionnement du journal, ni plus ni moins. Si chaque lecteur attend que les autres donnent, personne ne donnera. 2 minutes suffisent, ce soir plutôt que la semaine prochaine. 10 euros, 50 euros, 100 euros, 1 000 euros : chaque don compte. Et si vous le pouvez, optez pour un virement mensuel : c’est ce qui permet au journal de voir plus loin que le mois suivant.

Comment donner

PayPal : faire un don en ligne ([email protected])

Virement (mensuel si possible), à l’ordre de ASPA (pour Breizh Information)
IBAN : FR76 1220 6004 0056 0172 3120 604

BIC : AGRIFRPP822

Chèque à l’ordre de Breizh Information ASPA : BP 201, 29834 Karaez/Carhaix Cedex

Publicité

Le 10 décembre 2024, Geoffrey Hinton, souvent surnommé le « parrain de l’IA », a reçu le prestigieux prix Nobel de physique, conjointement avec le professeur John Hopfield. Cette récompense, décernée par l’Académie royale des sciences de Suède, salue leurs travaux pionniers sur les réseaux neuronaux artificiels et l’apprentissage automatique, fondements incontournables de l’intelligence artificielle actuelle. Ironie du sort, celui dont les découvertes ont propulsé l’IA vers des sommets de performance exhorte désormais le monde à prendre conscience des risques considérables liés à l’avènement d’une super-intelligence – un stade où les machines surpasseraient nettement l’esprit humain.

Des avancées scientifiques majeures, saluées par un Nobel

Au fil des décennies, les recherches de Geoffrey Hinton ont jeté les bases du deep learning et du machine learning. Dans les années 1980, il crée la « machine de Boltzmann », un modèle permettant aux algorithmes d’apprendre non pas en suivant des instructions, mais en observant des exemples. C’est cette méthode, alliant big data et réseaux neuronaux, qui a donné naissance à des algorithmes capables de traiter de vastes quantités d’informations, de comprendre des motifs complexes dans les données et de prendre des décisions en se rapprochant du raisonnement humain. Les innovations qui en ont découlé sont aujourd’hui omniprésentes dans la reconnaissance vocale, la vision par ordinateur, les systèmes de recommandation et, plus récemment, les IA génératives telles que ChatGPT ou Google Bard.

Le parrain de l’IA craint un horizon proche de la super-intelligence

Malgré l’honneur du Nobel, Hinton ne cache pas ses angoisses. Lors d’une conférence de presse à Stockholm, il a confié qu’il aurait aimé réfléchir plus tôt aux implications sécuritaires de ses découvertes. Son constat est clair : la super-intelligence, c’est-à-dire une IA plus intelligente que les humains les plus brillants, pourrait émerger dans les cinq à vingt prochaines années. Si de tels systèmes se développent sans garde-fous, l’humanité devra sérieusement s’inquiéter de la façon de conserver une forme de contrôle.

Il ne s’agit plus seulement de prédictions théoriques. Hinton alerte sur un éventail de menaces allant de la surveillance de masse au remplacement de certains secteurs de l’emploi, en passant par la discrimination systémique induite par des algorithmes nourris de biais. Pire encore, la perspective d’armes létales autonomes échappant à toute régulation spécifique fait froid dans le dos. Les exemptions militaires prévues dans certaines législations, notamment européennes, laissent les grandes puissances mener une course à l’armement algorithmique sans véritable contrepoids.

Des préoccupations éthiques devenues urgentes

Hinton est loin d’être le seul initiateur de l’IA à tirer la sonnette d’alarme. Au sein même de la communauté des pionniers, nombreux sont ceux qui redoutent que la vitesse à laquelle progresse l’IA ne dépasse notre capacité à mettre en place des barrières éthiques et juridiques. Le développement incontrôlé d’algorithmes capables de générer de la désinformation, de manipuler l’opinion publique, ou encore de renforcer des régimes autoritaires, figure parmi les scénarios les plus redoutés.

Le constat est d’autant plus amer que Geoffrey Hinton a lui-même participé à la montée en puissance de la Silicon Valley. Après avoir rejoint Google en 2013, il a joué un rôle central dans le projet Google Brain, améliorant considérablement la reconnaissance vocale sur Android et influençant l’ensemble du secteur. Mais en 2023, il a brusquement quitté le géant californien, estimant ne plus pouvoir parler librement des dangers inhérents aux technologies qu’il a contribué à développer. Il s’est alors affranchi de ses engagements pour dénoncer l’absence de régulations et la course effrénée au profit, sans considération des retombées sociétales.

Un appel à la régulation et à la vigilance collective

Dans ce contexte, Hinton réitère son appel en faveur de garde-fous et de régulations internationales. Pour lui, il ne s’agit pas d’empêcher l’innovation, mais de prévenir un scénario à la Frankenstein, où la créature échapperait définitivement au contrôle de son créateur. La compétition entre grandes entreprises technologiques et entre États rend, selon lui, toute pause dans le développement de systèmes toujours plus puissants de plus en plus improbable.

Bien que lucide, Hinton ne nourrit aucun remords coupables vis-à-vis de ses travaux fondateurs. Il rappelle qu’à son époque, d’autres auraient de toute façon poursuivi cette voie. Néanmoins, il regrette de ne pas avoir anticipé la rapidité avec laquelle l’IA pourrait atteindre un niveau menaçant. « Il est difficile d’imaginer stopper les ‘mauvais acteurs’ d’utiliser l’IA à des fins néfastes », a-t-il déjà affirmé, rappelant que la technologie se diffuse plus vite que notre capacité à l’encadrer.

L’avenir de l’IA, entre promesse et péril

En recevant le Nobel, Geoffrey Hinton a également annoncé vouloir faire don d’une partie de sa récompense à des initiatives améliorant l’accès à l’eau potable pour les populations autochtones, ainsi qu’à des causes soutenant l’inclusion des personnes neurodivergentes. Un geste qui traduit sa volonté de placer l’humain, le collectif et l’éthique au cœur des débats sur l’avenir de l’IA.

Aujourd’hui, plus que jamais, son message retentit : la communauté internationale, les législateurs, les entreprises et la société civile doivent œuvrer ensemble pour canaliser cette puissance technologique. Seule une approche responsable, transparente et concertée permettra de tirer le meilleur de l’IA, sans qu’elle ne devienne une force incontrôlable prête à échapper à l’humanité.

Crédit photo : DR

[cc] Breizh-info.com, 2022, dépêches libres de copie et de diffusion sous réserve de mention et de lien vers la source d’origine

Publicité
Cet article vous a plu, intrigué, ou révolté ?

PARTAGEZ L'ARTICLE POUR SOUTENIR BREIZH INFO

6 réponses à “Geoffrey Hinton, Nobel de physique et « parrain » de l’IA, tire la sonnette d’alarme sur les dangers de l’intelligence artificielle”

  1. Francesco dit :

    Trop tard ! Comme les créateurs de la bombe atomique qui gémissaient après. C’est l’histoire du bouton avec la pancarte « Danger ! Interdit de pousser », Le premier qui passe le pousse et déclenche un désastre ! Je ne sais plus qui avait dit si justement « Science sans conscience n’est que ruine de l’âme » L’éthique est devenue si élastique qu’elle est mâchée comme un bubble gum avant d’être craché.
    J’attends ma fin avec sérénité en pensant à tout ce que je ne verrai pas.

  2. loic ruello dit :

    sérieusement vous pensez que les différents états -major d’occident ou d’asie vont stopper ces recherches 😂 ?en bon paranos ils penseront que si nous nous stoppons nos ennemis eux forcément continueront

  3. Ronan dit :

    Hello Francesco ; « Science sans conscience n’est que ruine de l’âme » ; c’est RABELAIS qui l’a écrit en 1532 ; cette citation est tirée de Pantagruel, son œuvre majeure. Le scepticisme devrait être une évidence comme l’esprit critique à enseigner dans nos écoles car on se doit de se méfier de toute cette technologie à venir. Kenavo

  4. Francesco dit :

    Merci Ronan ! Avant de remigrer, je lisais Dante……mais, j’ai dû me rattraper en littérature française après l’italienne et l’américaine. J’avais lu Gargantua, ce qui m’a fait découvrir la rivière Dordogne et le Quercy que j’adore tant. Passe de belles fêtes.

  5. Hadrien Lemur dit :

    « la technologie se diffuse plus vite que notre capacité à l’encadrer » Cella résume exactement le dilemme, rester sur place en regardant passer le train ou avancer sans ne plus maitriser sa destination. Merci pour cet article Breizh-info et bravo à vous messieurs pour vos commentaires qui relèvent le débat. Joyeux noël à tous et comme on dit chez moi, A l’an que vèn ! Que se sian pas mai, que siguen pas mens. Il est un peut tôt pour le dire mais le cœur y est.

  6. mouchet dit :

    Nous voilà au bout du bout. Mr Nobel qui inventa la dynamite père de nos armes et explosifs actuels sont les prix Nobel avec l’angoisse de l’inventeur. Idem en ce moment avec l’intelligence artificielle un bien comme un mal à double tranchant pour l’espèce humaine. Pathétique le Nobel à Geoffrey Hinton qui cite les dangers malgré tout. En mains de dictateurs l’IA est un danger mortel mais pour aller voir sur Mars et la lune l’IA est indispensable. Saurons nous mettre des garde fou à cela. J’en doute car notre espèce en voie de développement manquant d’intelligence majoritaire, pourra faire des milliards d’esclaves filant droit sous les autorités de dictature pour l’asservissement et le pouvoir. Car vu la loi du nombre des humains sur terre à l’approche de 10 milliards d’âmes, certains idéologues dictateurs n’hésiterons pas du tout à entreprendre leurs valeur de la vie à eux comme des Lénine Marx Hitler ou autres de pouvoir et imposer leurs idées comme l’UE actuelle ou l’arnaque monétaire du dollar toxique qui nous ruine avec les dettes. Vos économies perdent 50% de pouvoir d’achat mais vous subissez sans pouvoir faire quelque chose sinon refuser de consommer.

Publicité

LES DERNIERS ARTICLES

soleil

Santé

Et si le soleil nous soignait ? Un essai américain attaque la peur des UV

International

Piddington : 350 habitants, 1 250 demandeurs d’asile, le village anglais sacrifié par Londres

Culture, Culture & Patrimoine

Mémoires de Nacre, le dernier album de François Bourgeon se situe en pays Bigouden

Sociétal, Société, Tribune libre

Les féministes et les « bandes de malades » : quand le népotisme n’est un problème que pour les autres [L’Agora]

Economie

C’est tout le système de l’argent-dette qu’il faut revoir [L’Agora]

Alsacien

Culture & Patrimoine, Patrimoine, Sociétal

Alsace : la langue régionale, chef-d’œuvre en péril ou champ de ruines ? Le cri d’alarme de Pierre Klein

Economie

Piles AA et AAA : un chargeur français qui régénère les alcalines recharge désormais aussi les NiMH

Culture, Culture & Patrimoine

Le Catherine II et la savante. Comment Lucie Randoin a puisé la vie au fond des mers.

Environnement, Local

Bretagne. La loutre reconquiert ses anciens territoires

International

De la guerre d’indépendance à l’ethnocide : Keith Woods accuse la classe dirigeante irlandaise

ARTICLES EN LIEN OU SIMILAIRES

Sociétal

Intelligence artificielle : l’Europe lance RAISE pour ne pas décrocher en science

Découvrir l'article

Santé

Chimiothérapies : en Bretagne, l’intelligence artificielle veille sur les préparations

Découvrir l'article

Culture, Culture & Patrimoine, Religion

Chateaubriand chez les machines : Eflamm Caouissin rouvre le Génie du christianisme

Découvrir l'article

Sociétal

« Mots offensants » effacés en direct : la censure automatique selon Microsoft

Découvrir l'article

Sociétal

Nemic, l’application qui veut faire de l’IA un outil pour apprendre plutôt qu’un substitut au cerveau

Découvrir l'article

Economie, Tribune libre

Les Pays-Bas réduisent l’État avec l’IA. La France n’a pas le temps d’y penser [L’Agora]

Découvrir l'article

Economie, Social

Salariés de 55 à 64 ans : moins confiants, plus stressés, moins soutenus, le malaise des seniors français

Découvrir l'article

Informatique, Justice

Justice : les recours rédigés avec l’IA peuvent coûter cher

Découvrir l'article

Ensauvagement, Informatique, International, Technologies

Deepfakes : Interpol alerte sur des arnaques toujours plus sophistiquées [Vidéo]

Découvrir l'article

Sociétal

Jean-Claude Michéa dans Le Figaro : l’école, l’ignorance et la colère de la France périphérique

Découvrir l'article

Nous utilisons des cookies pour vous garantir la meilleure expérience sur Breizh Info. Si vous continuez à utiliser le site, nous supposerons que vous êtes d'accord.