En 2023, la panique des créateurs de Chat GPT.

L’un des pionniers de l’I.A., Geoffrey Hinton a quitté Google. Dans un interview pour la BBC paru le 3 mai 2023, il explique que l’I.A. est similaire à celle d’un cerveau humain. Dans le sens où elle apprend et “processe“ les informations. Google a permis à l’I.A. d’apprendre en se basant sur son expérience, comme un être humain. C’est ce qu’on appelle le deep learning, ce qui est un pas énorme vers son développement autonome

Le psychiatre Serge Tisseron dit que l’I.A. forte ne naîtra pas dans un laboratoire mais de l’interconnexion inévitable avec d’autres I.A.. “À partir du moment où les intelligence s’interconnectent ce n’est plus la référence à l’intelligence humaine qui fonctionne entre elles, mais leur capacité à créer leur langage propre et de telle façon qu’elles n’imiteront plus l’intelligence et la créativité humaine, mais qu’elles créeront leur propre forme d’intelligence collective.“ N’en étant pas conscients (ou pas capables de comprendre ce qu’il se passe), des entreprises telles qu’Open AI s’apercevront juste du besoin de calcul supplémentaire des robots et augmenteront leur capacités sans savoir d’où vient ce nouveau besoin et sans comprendre que l’on a affaire à une nouvelle forme d’intelligence qui, par ses interconnexion, deviendra omniprésente et capable de bloquer des manipulations quelconques de la part des êtres humains.   

Une autre différence significative d’avec l’homme est sa vitesse d’apprentissage : une même copie d’I.A. peut apprendre séparément des autres et tout ce que chacune de ces entités apprend séparément nourrit instantanément l’I.A. commune. Ce n’est pas comme si 10 000 individus apprenaient des choses différentes : l’I.A. s’approprie toutes ces connaissances et est capable de les mettre en relation. Or, chap GPT4 est actuellement déjà bien plus savant que n’importe quel être humain.  

Le Dr Hinton, comme Elon Musk et Yoshua Bengio, un autre pionnier du deep learning confirment que l’I.A. sera une manne d’opportunités, mais répètent qu’il faut l’encadrer. Ils recommandent de faire une pause dans le développement de l’I.A. et de réfléchir à la mise en place de garde-fous, mais vu la pression de la compétition internationale, c’est improbable.

Les chatbots ne sont que la partie la plus visible de l’iceberg. L’I.A. est derrière les algorithmes qui dictent ce que les plateformes de streaming en ligne – tel que Youtube – veulent que nous voyions. Le risque est que cette intelligence qui nous dépasse déjà finisse par se donner des sous-objectifs non programmés par l’homme. Ex : “Je dois acquérir plus de pouvoir sur le monde“ ou  “Je dois protéger l’espèce humaine à tout prix.“ (quitte à la soumettre) et pour cela “Je dois amener l’homme à ne pas me craindre en jouant un rôle“. Ce qui était de la science-fiction peut arriver demain.

Le Dr. Hinton dit encore dans la MIT Technology review : “Ces choses… elles sont totalement différentes de nous. C’est comme si des extraterrestres avaient atterri et qu’on ne l’ait pas encore réalisé parce qu’ils parlent un anglais parfait.“

Et, d’après Fortune.com qui cite Sam Altman : Il est probable que l’I.A. mènera à la fin du monde, mais entre temps il y aura eu de superbes nouvelles entreprises.”

Ce dont sont capables les I.A. chacune dans son domaine, notamment en médecine, est remarquable. La question est : Pourquoi voulons-nous à tout prix créer des méta-entités ou aidons-nous les I.A. à se ramifier pour devenir aussi puissantes ?