Sélectionner une page

Ces scientifiques estiment qu’une intelligence artificielle avancée finira par avoir de très mauvaises intentions envers l’humanité

15 Sep 2022 | 0 commentaires

Shodan System-Shock-2 1 22

Des chercheurs de l’université d’Oxford (Royaume-Uni) et de l’Université National australienne ont conclu qu’il est désormais « probable » qu’une Intelligence Artificielle (IA) super intelligente sonnera le glas de l’humanité, un sombre scénario que de plus en plus de chercheurs commencent à prédire.

Image d’entête : l’IA SHODAN du jeu System Shock. (Wikimedia)

Dans une étude récente (lien plus bas), l’équipe composée de Marcus Hutter, responsable scientifique de DeepMind (mais ici pour l’Université national australienne*), de Michael Cohen et Michael Osborne, chercheurs à l’Université d’Oxford, affirme que les machines finiront par être incitées à enfreindre les règles établies par leurs créateurs pour se disputer des ressources ou une énergie limitées.

*N.B : Marcus Hutter, bien qu’affilié à la société spécialisée dans l’IA, Deepmind de Google, ne travaillait pas, dans le cadre de cette étude, pour cette entreprise, mais pour l’université nationale australienne. Google a tenu à le préciser via un communiqué de presse.

Les modèles d’IA les plus performants aujourd’hui sont connus sous le nom de réseaux adverses génératifs (GAN pour Generative Adversarial Networks). Ils sont structurés en deux parties : une partie du programme, un “agent” essaie de générer une image (ou une phrase) à partir de données d’entrée, et une seconde partie évalue ses performances. Ou dans d’autres cas, un agent essaye de tromper ou est mis en concurrence d’un autre agent et ainsi, au fil des essais, ils gagnent en performance. La nouvelle étude propose qu’à un moment donné dans le futur, une IA avancée supervisant certaines tâches importantes pourrait être incitée à mettre au point des stratégies de tricherie pour obtenir sa récompense d’une manière qui nuirait à l’humanité.

Selon Michael Cohen, étudiant en ingénierie à l’université d’Oxford et coauteur de l’étude :

Dans les conditions que nous avons identifiées, notre conclusion est beaucoup plus forte que celle de toute publication antérieure : une catastrophe existentielle n’est pas seulement possible, mais probable.

Dans leur étude, les chercheurs affirment que l’humanité pourrait être confrontée à sa perte sous la forme « d’agents désalignés  » super sophistiqués qui perçoivent l’humanité comme un obstacle à l’obtention d’une récompense.

Selon l’étude :

Un bon moyen pour un agent de maintenir le contrôle à long terme de sa récompense est d’éliminer les menaces potentielles et d’utiliser toute l’énergie disponible pour sécuriser son calculateur. Perdre ce jeu serait fatal. Déjoué

Malheureusement, selon les chercheurs, il n’y a pas grand-chose que nous puissions faire à ce sujet et cela pourrait être donc de mauvais augure pour l’humanité. Nous ne ferons pas le poids face à ce type de menace.

Donc, toujours selon les chercheurs, en réponse à cette menace, l’humanité ne devrait faire progresser ses technologies d’IA que lentement et prudemment.

Si ces hypothèses se vérifient, l’étude prévient :

Un agent artificiel suffisamment avancé interviendrait probablement dans la transmission d’informations sur des objectifs, avec des conséquences catastrophiques.

L’étude publiée dans la revue AI Magazine : Advanced artificial agents intervene in the provision of reward et une interview des chercheurs a été réalisé par le site Motherboard : Google Deepmind Researcher Co-Authors Paper Saying AI Will Eliminate Humanity.

Il n’y a aucune publicité sur GuruMeditation et le Guru ne compte que sur la reconnaissance de ses lecteurs/ lectrices. 

Merci pour votre aide !

Des astronomes découvrent le plus grand trou noir stellaire de notre galaxie et il est proche de la Terre

Le plus grand trou noir stellaire de la Voie lactée a été découvert par la mission Gaia de l’Agence spatiale européenne. Et il est très proche de la Terre.

Baptisé Gaia BH3, il pèse 33 fois la masse de notre soleil, soit plus de 50 % de plus que le deuxième plus grand trou noir stellaire, Cygnus X-1, qui pèse 21 masses solaires. Il existe des trous noirs plus grands dans notre galaxie, mais aucun d’entre eux n’a été formé par l’effondrement du cœur d’une étoile massive.

Par exemple, Sagittarius A*, le trou noir…

Pain perdu : Découverte d’un pain vieux de 8 600 ans en Turquie

Des archéologues de l’université Necmettin Erbakan ont découvert en Anatolie centrale, en Turquie, ce que l’on pense être le plus vieux pain du monde. Sécouvert sur le site néolithique de Çatalhöyük, l’un des sites les plus grands et les mieux préservés de ce type, est estimé à environ 8 600 ans, soit 6600 ans avant notre ère. Cette découverte rare et inattendue montre à quel point les pratiques culinaires des premières sociétés agraires étaient avancées.

Çatalhöyük est situé au sud-est de l’actuelle Konya, non loin du mont Hasan…

Sur l’origine du cœur de Pluton

Le « cœur » de Pluton, également connu sous le nom de Tombaugh Regio, a attiré l’attention du public dès sa découverte. Mais il a également suscité l’intérêt des scientifiques parce qu’il est recouvert d’un matériau à albédo élevé qui réfléchit plus de lumière que son environnement, d’où sa couleur plus blanche.

Maintenant, des chercheurs affirment avoir trouvé le scénario le plus probable à l’apparition de ce coeur, à savoir une ancienne collision avec un corps planétaire d’un peu plus de 640 km de large…

Goldene: la première feuille d’or d’un seul atome d’épaisseur

Pour la première fois, des scientifiques de l’université de Linköping, en Suède, ont réussi à mettre au point des feuilles d’or de l’épaisseur d’un seul atome. Baptisé « goldene », ce matériau révolutionnaire présente de nouvelles propriétés qui pourraient transformer plusieurs applications technologiques, de la catalyse à l’électronique de pointe.

Il n’y a pas si longtemps, le graphène faisait constamment la une des journaux, car il était incroyablement solide, fin, flexible, léger et un excellent conducteur de…

La surprenante raison pour laquelle nous clignons des yeux bien plus souvent qu’il est nécessaire

Cligner des yeux permet de les humidifier, mais nous le faisons bien plus souvent qu’il ne le faudrait si c’était la seule raison. Des scientifiques de l’université de Rochester (États-Unis) ont découvert que cette action involontaire joue un rôle plus important que nous le pensions, en nous aidant à traiter les informations visuelles.

On a longtemps pensé que la principale raison pour laquelle nous clignons des yeux était d’éliminer la poussière et les débris de nos yeux, afin de prévenir les infections et…

Les oiseaux chantent en dormant ce qui permet de déterminer à quoi ils rêvent

Des chercheurs ont suivi les contractions musculaires du conduit vocal d’un oiseau et reconstitué le chant qu’il chantait silencieusement dans son sommeil. Le son obtenu est un appel très spécifique, ce qui a permis à l’équipe de déterminer le sujet du rêve de l’oiseau.

Lorsque les oiseaux dorment, la partie de leur cerveau consacrée au chant diurne reste active et présente des motifs qui ressemblent à ceux produits lorsqu’ils sont éveillés. Des chercheurs de l’université de Buenos Aires (UBA) ont déjà démontré que ces modèles cérébraux…

Des milliers de météorites encore non découvertes disparaissent dans la glace molle de l’Antarctique

Plus de 60 % de toutes les météorites connues ont été découvertes en Antarctique, car elles sont faciles à repérer et se détachent sur le fond blanc gelé du continent. On estime que jusqu’à 850 000 météorites doivent encore être collectées sur la calotte glaciaire.

Une nouvelle analyse suggère que le réchauffement des températures rend la glace plus molle, ce qui fait que les météorites s’enfoncent profondément hors de notre portée. Au cours des prochaines décennies, nous pourrions ainsi perdre quelque 5 000 météorites par an…

Photos : Lorsque deux satellites dans des directions opposées se croisent dans l’espace à 10 000 km/h

La sonde Lunar Reconnaissance Orbiter (LRO) de la NASA a pris une photo parfaitement synchronisée lorsqu’elle a croisé le chemin d’un autre engin spatial en orbite autour de la lune.

La sonde LRO, qui est en orbite autour de la lune depuis 15 ans, a pris plusieurs images de l’orbiteur lunaire Danuri de l’Institut de recherche aérospatiale de Corée, alors que les deux engins spatiaux, voyageant sur des orbites presque parallèles, se sont croisés dans des directions opposées au cours de trois orbites entre le 5 et le 6 mars…

Le professeur physicien Peter Higgs, célèbre pour avoir prédit l’existence du boson de Higgs, meurt à l’âge de 94 ans

Le professeur Peter Higgs, lauréat du prix Nobel, physicien théoricien britannique célèbre pour avoir prédit l’existence d’une nouvelle particule, le boson de Higgs, est décédé lundi 8 avril. L’université d’Édimbourg, où Higgs était professeur émérite, a annoncé mardi qu’il était « décédé paisiblement chez lui … à la suite d’une courte maladie ».

Les bosons de Higgs sont l’excitation quantique du champ de Higgs, un champ qui remplit tout l’univers et qui interagit avec les particules…

Voyager 1 : Les ingénieurs de la NASA ont repéré la puce défectueuse qui pourrait permettre de réparer l’ordinateur de la plus vieille sonde spatiale

L’une des plus anciennes (47 ans) et des plus lointaines sondes envoyées dans l’espace par l’humain, la sonde Voyager 1 souffre d’une importante défaillance qui l’empêche de transmettre des données scientifiques ou techniques vers la Terre. Les ingénieurs de la NASA ont réduit le problème de la sonde Voyager 1 à une seule puce défectueuse. Il pourrait désormais être possible de contourner la mémoire corrompue et de remettre la sonde interstellaire en état de marche…

Les astronautes sont conscients de la distance à laquelle ils "volent" dans l’espace en dépit de la microgravité

Des scientifiques étudiant les astronautes à bord de la Station spatiale internationale ont déterminé que les humains sont étonnamment doués pour s’orienter et évaluer la distance qu’ils ont parcourue en microgravité.

Selon Laurence Harris, spécialiste de la vision et de la perception du mouvement à l’université York au Canada, auteur principal de la nouvelle étude…

Le premier utilisateur de l’implant cérébral Neuralink joue aux échecs par la pensée

La société Neuralink a présenté une vidéo de son premier patient humain, Noland Arbaugh, jouant aux échecs sur ordinateur avec ses pensées grâce à un implant cérébral.

Paralysé des épaules à la suite d’un accident de plongée, Arbaugh s’est montré enthousiaste quant au potentiel de cette technologie… »

Découverte en Australie de ce qui pourrait être le plus velu des coléoptères

Un entomologiste campant avec son partenaire dans le Queensland, en Australie, a trouvé ce qui pourrait être un concurrent pour le coléoptère le plus touffu d’Australie, et peut-être du monde.

James Tweed, de l’université du Queensland, a fait cette découverte à Noël 2021 au Binna Burra Lodge, une parcelle de terre privée et un…

Le troisième vol du Starship de SpaceX atteint l’espace, mais disparaît lors de sa rentrée dans l’atmosphère

Après deux explosions spectaculaires en avril et en novembre de l’année dernière, l’énorme “vaisseau spatial” de SpaceX, le Starship a officiellement atteint l’espace pour la deuxième fois…

Pin It on Pinterest

Share This