Le domaine de “l’intelligence artificielle générale” ou IAG (Intelligence artificielle forte) n’a pas progressé durant les six décennies de son existence, malgré le fait que les lois de la physique impliquent qu’une intelligence artificielle soit réalisable. Le grand physicien britannique David Deutsch, spécialisé dans le domaine de l’informatique quantique à l’Université d’Oxford, met en cause un manque de philosophie. Celle-ci pourrait permettre de faire surgir une solution à cette une barrière infranchissable qui serait aussi fine (mais primordiale) que la différence entre l’homme et son cousin le singe.
Il est admis que le cerveau humain a des capacités qui sont, à certains égards, bien supérieures à celles de tous les autres objets connus dans le cosmos. Il est le seul objet de ce type capable de comprendre que le cosmos est encore là, ou pourquoi il existe une infinité de nombres premiers, ou que les pommes tombent à cause de la courbure de l’espace-temps, ou qu’obéir à ses propres instincts innés peut être immoral, ou simplement qu’ils existent. Ses capacités uniques ne sont pas seulement confinées dans la matière grise cérébrale au sens premier du terme.
Concrètement, il est le seul type d’objet qui peut autant se propulser dans l’espace et revenir sans danger, que prévoir et prévenir la chute de météorites sur lui-même, ou refroidir de la matière à un milliardième de degré au-dessus du zéro absolu, ou encore d’en détecter d’autres du même genre sur de longues distances galactiques.
Mais aucun cerveau sur Terre n’a encore été capable de savoir ce qu’il fait pour atteindre l’une de ses fonctionnalités. Le domaine de “l’artificielle intelligence générale” ou AIG, le moyen d’y parvenir artificiellement, n’a réalisé aucun progrès durant les six décennies de son existence.
Ce qui est nécessaire n’est rien de moins qu’une percée en philosophie : une théorie qui détaille comment le cerveau crée des explications … et donc, définit, quels algorithmes possèdent cette fonctionnalité ou ceux qui ne l’ont pas, sans jamais les faire fonctionner comme des programmes.
Pourquoi ? Car, comme un sage l’a déjà fait remarqué :
Le problème n’est pas ce que nous ne savons pas, mais ce que nous tenons pour sûr et certain et qui ne l’est pas (Mark Twain).
Le physicien David Deutsch ne peut penser à aucun autre domaine significatif de connaissance dans lequel l’opinion répandue est assaillie d’erreurs fondamentales qui se chevauchent tant dans la société en général, mais aussi parmi les experts. Pourtant, il est l’un des domaines les plus confiants dans sa prophétisation qu’il réalisera bientôt une percée ultime.
En dépit de cette longue expérience de l’échec, l’IAG doit être possible. Et tout cela grâce à une propriété profonde des lois de la physique, à savoir L’universalité du calcul. Cela implique que tout ce que les lois de la physique appliquent et exigent comme action d’un objet (physique) peut, en principe, être émulé en détail arbitrairement fin par un programme sur un ordinateur à usage général, à condition qu’il lui soit donné assez de temps et de mémoire. Les premières personnes à deviner cela et à s’attaquer à ses ramifications étaient le mathématicien Charles Babbage (19e siècle) et son assistante Ada, comtesse Lovelace. C’est resté une supposition jusqu’aux années (19)80, quand David Deutsch l’a prouvé en utilisant la théorie quantique de la calculabilité…
L’absence de progrès dans l’AGI est due à d’importantes fausses idées qui ont conduit à des impasses. Sans épistémologie poppérienne, on ne peut même pas commencer à deviner quelle fonctionnalité détaillée doit être réalisée pour faire une IAG. Et l’épistémologie de Popper n’est pas très connue et encore moins assez bien comprise pour être appliquée. Imaginer une IAG comme une machine à traduire des expériences, de récompenses et de punitions en idées (ou pire, juste en comportements), c’est comme essayer de guérir les maladies infectieuses en équilibrant l’humeur du corps : futile, car elle est enracinée dans une vision archaïque et follement trompeuse du monde.
Sans comprendre que la fonctionnalité d’une IAG est qualitativement différente de celle de n’importe quel autre type de programme informatique, les scientifiques travaillent dans un domaine entièrement différent. Quand certains travaillent en faveur de programmes dont la “pensée” est constitutionnellement incapable de violer des contraintes prédéterminées, d’autres essaient de concevoir l’attribut définissant l’écart d’un être intelligent, d’une personne : à savoir la créativité.
La désactivation de cette impasse ne fournira pas, par elle-même, une réponse. Pourtant, la réponse, conçue en ces termes, ne peut pas être si compliquée. Une autre conséquence de la compréhension que la capacité ciblée est qualitativement différente, c’est que, depuis que les humains l’ont à la différence des singes, l’information sur la façon de l’atteindre doit être encodée dans le petit nombre de différences entre l’ADN des humains et celui des chimpanzés. Ainsi, sur un point David Deutsch est d’accord avec les partisans pour l’apparition imminente de l’IAG : il est plausible que juste une seule idée se dresse encore entre nous et cette innovation. Mais elle devra être l’une des meilleures idées qui soient…
C’est un résumé par votre Guru de l’essai récent, écrit par le physicien David Deutsch et que vous pouvez consulter ici : Creative blocks : The very laws of physics imply that artificial intelligence must be possible. What’s holding us up?
La réflexion est très bonne.
Il faut toute fois comprendre que l’ADN qui nous sépare du chimpanzés
ne contient pas toute la clé. Il contient un complément qui recombiné avec l’ADN du chimpanzés permet d’arriver jusqu’à nous. Il s’agit ici d’identifier une division et non un simple écart. Autrement dit d’un produit et non d’une addition.
Mais le chimpanzé n’est il pas aussi capable que nous en terme d’IAG ?
Qu’est ce qu’une IAG ? Qu’attends ton d’elle ?
Peut-être qu’un réseau de chimpanzés peut formé une autre forme d’IAG…(à une échelle plus macro sans que chaque chimpanzé n’en sache quoi que ce soit).
Vous croyez qu’un neurone seul sait le résultat de l’ensemble ?
Quoi est quoi, là est la vrai question…
Cordialement,
Tigroux
Je pense qu’il faut méler plusieurs savoirs pour inventer une vrai CA capable de créativité et de « vie » (pour ne pas dire une CA):
– Connaissance informatique
– Connaissance philosophique (mais pas tant qu’on le pense à mon avis)
On a tous eu peur de la mort au début avant de l’accepter (ou non)
– Connaissance sur le cerveau et les mécanismes primitifs (récompense / punition)
– Connaissance sur les lois de l’évolution
– Connaissance sur le développement psychologique de l’être humain
==> qui pourrait servir de base pour éduquer une IA. Car je pense que pour débuter on peut considérer qu’un enfant à un cerveau vierge, un peu comme (ne soyez pas choqué par la comparaison SVP) un ordinateur tout neuf.. qui est capable mais n’a pas encore rempli ses disque durs !
– Connaissance mathématique :
– Maitrise l’apport du hasard dans :
– le processus de création/imagination
– mélange/fusion/rapprochement d’idées et de concepts:
Souvent les idées viennent en tissant des relations entre deux mondes différents
par exemple la théorie des cordes : le domaine physique (1) et jouer d’un instrument (2) On a fait le rapprochement d’une (ou plusieurs en générale) caractéristiques de (1): les vibrations de particules avec une(ou plusieurs) caractéristiques d’un instrument : cordes. Et on commence a se demander si la comparaison peut aller plus loin en prenant des caractéristiques de (2) et voir si dans (1) leur homologue existent. Ça revient à penser que beaucoup de chose se ressemble dans l’univers et que finalement le monde du Savoir est un tantinet fractale;
Bref pour moi la véritable étincelle qui manque c’est la simple « Conscience du plaisir » :
Je parle de toutes les nuances pour les 5 sens ainsi que les autre sens indirects (l’empathie peut générer du plaisir, de même que la beauté d’une oeuvre d’art…)
C’est le véritable moteur de nos actions « humaines » (envie d’aventure de découvertes, d’amour etc envie de rencontre, de dialogue …)
On pourrait reprocher à la douleur de ne stimuler qu’une réaction automatique d’évitement pour la survie Et donc dans ce cas notre comportement n’est pas si différent de celui d’un robot.
Les questionnement sur le plaisir sont vastes :
– Pourquoi cherchons nous à varier le type de plaisir reçu ?
– Pourquoi la nuance de plaisir est-elle infini ?
– Si tout le monde sur terre n’avait plus à travailler pour vivre que ferions nous ?
Ne chercherions nous pas le maximum de plaisir ?
Ne le faite vous pas en ce moment même ?
(Peut être que vous prenez un plaisir intellectuel a lire ce que je raconte
Dans le cas contraire vous êtes peut être déjà en train de penser à arrêter la lecture pour faire une autre activité… plus plaisante ou moins pénible)
Ce qui nous empêche de ne pas nous adonner aux plaisirs a longueur de temps ce sont l’anticipation de nos besoins primaires (et la retour sur un comportement très robotisé)
N’importe quel informaticien penserait à récompenser une IA simplement en lui donnant pour but d’augmenter des « compteurs de plaisirs » qu’il aurait programmé : Un compteur pour ceci, un compteur pour cela etc… comme un Sims en quelque sorte.
Cela pourrait être suffisant comme modélisation pour un Sims.. ou pour la douleur:
(Car le but de la douleur n’est QUE de laisser les compteurs à zéro, et une infinité de compteur à zéro c’est facile à modéliser en informatique : on ne fait rien et on crée un compteur que lorsqu’il est différent de zéro 🙂 )
Mais pour les plaisirs .. il faudrait une infinité de compteurs constamment différent de zéro, changeant de valeurs au fil du temps.. et influençant nos choix pour que, dans leur globalité, du moins l’iA le pense t-elle les valeurs augmentent encore plus…
« La plus grande conscience de l’homme c’est que les moyens d’accéder aux plaisirs sont innombrables et que les nuances de leur expérience infinies ».
Si on réussit à coder ça, on aura, je pense, le moteur d’une vrai Conscience artificielle, sur lequel toutes les autres idées (que l’on se fait d’une vrai IA) viendront se greffer.
A méditer…
« Cela implique que tout ce que les lois de la physique appliquent et exigent comme action d’un objet (physique) peut, en principe, être émulé en détail arbitrairement fin par un programme sur un ordinateur à usage général, à condition qu’il lui soit donné assez de temps et de mémoire. »
Cela ne tient pas compte des connaissances apportées par la Théorie du Chaos.
Une précision infinie n’était possible, il est impossible de simuler un système chaotique (et il y en a beaucoup dans notre monde, la météo par exemple) à plus ou moins long terme.
On peut peut-être prévoir le temps à 3 jours, mais pas à 1 mois, et cela ne dépend pas que de la puissance des ordinateurs, c’est une barrière fondamentale.