Note de l'éditeur : Comme Résumé d'InvestorPlace L'écrivain Jeff Remsburg détaille dans un article récent que le célèbre chercheur comportemental John B. Calhoun a mené une série d'expériences qui, en créant une « utopie » pour les souris, ont reproduit la façon dont Intelligence artificielle générale (AGI) pourrait aider la race humaine.
L'IAG a le potentiel de créer des remèdes pour pratiquement toutes les maladies, de produire des films à la demande pour des heures de divertissement infinies, voire même de faire le travail quotidien de tout le monde à leur place. Mais que se passe-t-il lorsque vous supprimez toutes les difficultés ? Et si tous les défis de la vie disparaissaient soudainement ?
Comme le dit Jeff, les expériences de Calhoun se terminaient toujours par « un paysage infernal de violence, de mort et, finalement, d'extinction massive ». Nous devons faire face à ce potentiel de désastre sur lequel nous nous dirigeons vers la voie de l'AGI dont nous avons parlé ici au cours des dernières semaines. Et donc, avec l'expérience d'Eric La route vers le sommet de l'AGI approche rapidement – ce jeudi à 13 heures, heure de l’Est (allez ici pour réserver votre place) – nous avons demandé à Jeff si nous pouvions réimprimer son essai ici… et il a gentiment accepté.
Prends-le, Jeff…
Le biologiste avait créé une « utopie » parfaitement conçue.
L’objectif de l’expérience était de savoir « que se passerait-il maintenant que les sujets avaient tout ce qu’ils pouvaient désirer ? Cela les conduirait-il à un épanouissement sans limite ? »
C'était le contraire.
Les expériences, menées depuis des décennies, se terminaient toujours de la même manière…
Cette « utopie » idyllique s’est transformée en un paysage infernal de violence, de mort et, finalement, d’extinction massive.
Oui, c’est une façon étrange de commencer, mais restez avec moi…
En 1968, le célèbre chercheur en comportement John B. Calhoun a créé ce que l’on pourrait considérer comme un « jardin d’Éden » pour les souris.
C'était un enclos qui offrait les conditions parfaites pour les rongeurs : plus que suffisamment de nourriture et d'eau… un climat tempéré… des rames de papier et de rembourrage pour que les souris puissent construire des nids parfaits… 256 « appartements » séparés pour les mères et les petits… beaucoup d'espace pour éviter le surpeuplement dû à la croissance démographique… et chaque souris était présélectionnée pour éliminer le risque de maladie.
Cela semblait être un environnement parfaitement conçu pour une population croissante et en bonne santé… et pourtant, à maintes reprises, il s’est transformé en cauchemar.
Ce que de plus en plus de gens se demandent aujourd’hui est : « Sommes-nous sur la voie de notre propre « utopie de la souris » grâce à l’intelligence artificielle générale ? »
L'intelligence artificielle dépassera l'intelligence humaine dans tous les domaines. Il s'agira d'un agent autonome capable d'apprendre sans supervision humaine. Il sera doté d'une certaine forme de conscience, d'expérience subjective, de compréhension émotionnelle et de capacité de prise de décision autonome.
La crainte centrale dans la création d’une telle IA est donc : « Comment pouvons-nous contrôler un agent conscient qui est substantiellement plus intelligent que nous ? »
Certes, comme le répètent volontiers les médias les plus alarmistes, « nos maîtres de l’intelligence artificielle » pourraient déclarer la guerre aux humains. Mais comme le montre l’expérience de Calhoun, vieille de plusieurs décennies, l’intelligence artificielle risque aussi d’avoir des conséquences imprévues d’un point de vue sociologique.
J'ai lu plusieurs visions du futur dans lesquelles l'IAG est si puissante et efficace que nous finirons tous par arrêter de travailler et vivre d'un revenu de base universel (RBU). Cela nous permettra de suivre notre cœur et de devenir poètes, musiciens, sculpteurs, quel que soit notre rêve.
En d’autres termes, nous vivrons dans une utopie.
Mais comme l’a dit Elon Musk : « Avec l’intelligence artificielle, nous invoquons le démon. »
Est-il possible que le démon que nous invoquons soit… nous ?
Le paysage infernal de « Mouse Utopia »
L'expérience la plus célèbre de Calhoun, « l'utopie de la souris », s'est centrée sur l'univers n° 25, qui a débuté en juillet 1968.
Au début, tout semblait aller pour le mieux. Les huit premières souris se sont reproduites et la population a ensuite doublé tous les 55 jours. Elle a finalement atteint un pic de 2 200 souris environ un an et demi après le début de l'expérience.
Pour être clair, cette croissance démographique maximale n'était pas limitée par la taille de l'univers physique de Calhoun. L'enclos qu'il a créé offrait un espace supplémentaire pour supporter une croissance démographique supplémentaire.
Certaines études sur l'utopie des souris soutiennent que la surpopulation est le problème, mais ce n'est pas le cas. Extrait de VictorPest.com :
Malgré l’abondance d’espace dans l’enclos — chaque compartiment pouvait abriter jusqu’à 15 individus, et l’enclos global était construit pour une capacité de 3 000 personnes — la plupart des souris se pressaient dans des zones sélectionnées et mangeaient les mêmes sources de nourriture.
Non, ce n'est pas la surpopulation qui a tué l'utopie de la souris. Ce qui a conduit au déclin est quelque chose de bien plus sinistre.
Dans l'utopie de la souris, les petits mouraient rarement, les souris adultes n'avaient rien à faire pour survivre et s'épanouir, et aucune souris ne manquait de rien. Cela a entraîné des problèmes inattendus.
Les souris ont des hiérarchies sociales. Les alphas dominants contrôlent des harems de femelles et doivent régulièrement combattre leurs adversaires. Dans la nature, la souris perdante s'enfuit et recommence ailleurs. Mais dans l'utopie de la souris, la souris perdante ne pouvait pas s'échapper. Et comme tant de souris survivaient dans ces conditions idylliques, des hordes de ces perdantes – ce que Calhoun appelait les « abandons » – se rassemblaient au centre des enclos.
Blessés, marqués de cicatrices et en colère, ces jeunes se mettaient parfois à se battre sans raison apparente. Ils allaient même jusqu'à s'en prendre à d'innocentes souris dans l'enclos. C'était une violence insensée. Certains allaient même jusqu'au cannibalisme.
La vie des alphas n'était pas meilleure. Avec autant de souris survivant à l'enfance, les alphas en ont eu assez de défendre leurs harems. Alors, des souris rebelles ont envahi de nombreux appartements de souris.
Les souris femelles ont riposté, mais cela a changé leur relation avec leurs petits déjà présents. Beaucoup de ces mères fatiguées et stressées ont chassé leurs petits du nid avant qu'ils ne soient prêts. D'autres mères ont abandonné leurs petits. Certaines ont même attaqué leur propre progéniture.
Ensuite, tous les besoins de base étant satisfaits grâce à l'expérience, les souris n'avaient plus besoin de passer leurs journées à chercher de la nourriture, à créer des abris ou à éviter les prédateurs. Ce manque de but a conduit à de nouveaux comportements déviants. Voici Histoire des sciences pour expliquer:
Les femelles inadaptées ont commencé à s’isoler comme des ermites dans des appartements vides – un comportement inhabituel chez les souris.
Les mâles inadaptés, quant à eux, se lavaient et se léchaient toute la journée, heure après heure. Calhoun les appelait « les beaux ». Et pourtant, même s’ils étaient obsédés par leur apparence, ces mâles n’avaient aucun intérêt à courtiser les femelles, aucun intérêt pour le sexe.
Étant donné la violence, l’absence de rôles traditionnels, l’absence de sexe et le manque de soutien parental à la naissance des chiots, la population a commencé à chuter.
Retour à Histoire des sciences:
Au 21e mois, les nouveau-nés survivaient rarement plus de quelques jours. Bientôt, les nouvelles naissances cessèrent complètement.
Les souris plus âgées ont persisté pendant un certain temps, se cachant comme des ermites ou se lissant toute la journée, mais elles ont fini par disparaître elles aussi.
Au printemps 1973, moins de cinq ans après le début de l’expérience, la population était passée de 2 200 à 0. Le paradis des souris avait disparu.
Les humains ne sont pas des souris, mais nous serions stupides d’ignorer ces découvertes
Instinctivement, nous savons qu’une « société parfaite » qui ne nous demande rien n’est pas saine.
Les êtres humains sont faits pour s’efforcer, pas pour se divertir. Sachez que les retraités les plus heureux à la retraite sont ceux qui passent du « travail » à un autre type de « travail » – généralement en faisant du bénévolat pour quelque chose qui leur apporte un épanouissement ainsi qu’un sentiment d’identité, de but et de sens.
L’absence d’identité, de but et de sens engendre souvent la dépression. Il y a ensuite le déclin cognitif qui s’accélère lorsque les gens arrêtent de travailler, en raison de la réduction soudaine du traitement mental. En effet, Calhoun a écrit sur la « mort spirituelle » des souris dans son expérience qui a précédé leur mort physique. Voici Moyen:
Calhoun a vu dans le sort de la population de souris une métaphore du sort potentiel de l’humanité. Il a qualifié l’effondrement de la société de « mort spirituelle », tandis que la mort physique était appelée la « seconde mort »…
La mort spirituelle, telle qu'elle est généralement comprise, est une déconnexion de sa propre essence, de ses valeurs ou de ses croyances. Elle peut se manifester par une perte de but, de sens ou de sentiment d'appartenance.
Devons-nous croire qu’un monde axé sur l’IA générale, dans lequel nous ne faisons que peindre, chanter et danser, sera significatif et intellectuellement stimulant ?
J’imagine que certains de vos moments de plus grand épanouissement et de plus grand bonheur se sont produits de l’autre côté d’une période d’efforts intenses (et peut-être douloureux), d’étirements et de luttes pour atteindre un objectif noble et louable.
Une vie entière consacrée à l'expression artistique serait-elle vraiment une utopie ? Ou pourrait-elle être amusante pendant un certain temps, jusqu'à ce que l'absence totale de responsabilité, de devoir et de sacrifice de soi pour un objectif qui nous dépasse se transforme en un enfer de notre propre création ?
Les risques socio-économiques de l'IAG
Revenons à Moyen:
Grâce aux progrès technologiques, les avancées de l’intelligence artificielle pourraient remplacer la quasi-totalité du travail mental et/ou physique effectué par les humains d’ici quelques décennies. Cela pourrait causer des problèmes majeurs dans la société.
- Si la répartition n’est pas équitable, elle risque d’aggraver le déséquilibre existant entre richesse et pouvoir, ce qui pourrait conduire à des sociétés autoritaires et à des dictatures despotiques.
- Si elle était répartie équitablement, elle pourrait accorder à la population beaucoup plus de temps libre et elle pourrait effectivement dépérir et mourir, pour ainsi dire, si elle n'est pas assez imaginative pour trouver son propre but dans la vie ou trouver quelqu'un d'autre pour lui donner un but dans la vie.
Bien que notre attention soit portée ici sur les défis sociologiques d’un avenir axé sur l’IA, je souhaite faire un commentaire sur l’idée de répartition des richesses, car l’extrait ci-dessus y fait référence et parce qu’il est lié au risque sociologique.
Pour que notre monde entier puisse bénéficier d’un revenu de base universel, il doit y avoir une redistribution massive des richesses à une échelle que nous n’avons jamais vue auparavant.
D’où viendra cette richesse ?
Apparemment, cela viendra des entreprises qui bénéficient de l’IA, générant tous les profits.
Aujourd’hui, ces entreprises investissent des milliards de dollars dans l’IA. Dans les années à venir, ce chiffre atteindra des milliers de milliards.
Devons-nous supposer que ces entreprises vont simplement remettre leurs bénéfices au gouvernement pour qu’ils soient redistribués en masse ?
Qu'en est-il du capital-risque qu'ils mettent en jeu ? Des années de bénéfices inférieurs dus aux énormes investissements en R&D dans l'IAG ? Est-ce simplement ignoré ?
Qu'en est-il de l'argent que vous, en tant qu'investisseur, avez investi dans cette entreprise ? Qu'advient-il du cours de l'action de l'entreprise – et de la valeur de votre portefeuille – lorsque le gouvernement prélève ces bénéfices AGI pour les redistribuer ?
Une grande partie de nos concitoyens sera favorable à cette idée de distribution massive des richesses et la soutiendra. En revanche, une partie non négligeable d’entre eux s’y opposeront farouchement, la considérant comme un vol.
Je suis sûr que rien ne pourrait mal se passer là-bas…
Gardez les yeux ouverts plus tard cette semaine pour une plongée beaucoup plus approfondie dans l'AGI de notre expert en macro Eric Fry.
Il crée une série de rapports pour les membres de son service commercial Le spéculateur. Si vous êtes abonné, vous les recevrez plus tard cette semaine. Pour le reste d'entre nous, jeudi, Eric animera La route vers le sommet de l'AGI (rejoignez-le en allant ici), où il partagera son idée d'investissement n°1 dans AGI. Il s'agit d'une startup à croissance rapide avec un potentiel pratiquement illimité sur la voie de l'AGI. De plus, il présentera son plan directeur « à l'épreuve du temps » pour se préparer à ce paysage en évolution rapide.
Parce que l’AGI atteint un point de non-retour pour le développement de la technologie de l’IA, cet événement est crucial pour quiconque cherche à garder une longueur d’avance et à capitaliser sur cette révolution technologique à venir.
Eric fournira tous les détails lors de son La route vers le sommet de l'AGI sur Jeudi 22 août, à 13h, heure de l’Est.
Cliquez ici pour réserver votre place.
Et gardez les yeux ouverts : Eric et moi vous en dirons davantage sur les implications de l’AGI en matière d’investissement ainsi que sur nos visions spécifiques de notre avenir axé sur l’AGI.
Passe une bonne soirée,
Jeff Remsburg
Éditeur, Résumé d'InvestorPlace
