En 1965, l’ingénieur américain Gordon Moore a prédit que le nombre de transistors intégrés sur une puce de silicium doublerait tous les deux ans environ. Cela s’est avéré vrai jusqu’à ce jour, permettant aux développeurs de logiciels de doubler la performance de leurs applications. Cependant, la performance des algorithmes d’intelligence artificielle (IA) semble avoir dépassé la loi de Moore.

Image d’entête : macro d’une puce Intel 80486DX2 dans son emballage (1992). Ce fut la première puce à utiliser un coefficient multiplicateur (doublement de l’horloge), grâce auquel le processeur exécute deux cycles d’horloge logique interne par cycle de bus externe. (Wikimédia)

Ci-dessous, représentation de la  loi de Moore : un tracé (échelle logarithmique) du nombre de transistors MOSFET pour les microprocesseurs par rapport aux dates d’introduction, doublant presque tous les deux ans. (Wikimédia)

Selon un nouveau rapport produit par l’université Stanford (États-Unis), la puissance de calcul de l’IA s’accélère à un rythme beaucoup plus rapide que le développement des microprocesseurs.

Selon les chercheurs dans leur étude :

Avant 2012, les performances de l’IA suivaient de près la loi de Moore, les calculs doublant tous les deux ans. Après 2012, les calculs ont doublé tous les 3,4 mois.

Le rapport annuel de Stanford sur l’indice AI 2019 (lien plus bas) a examiné comment les algorithmes d’IA se sont améliorés au fil du temps. Dans un chapitre, les auteurs ont suivi la performance des programmes de classification d’images basés sur ImageNet, l’un des ensembles de données de formation les plus utilisés pour l’apprentissage automatique (des IA).

Selon les auteurs, sur une période de 18 mois, le temps nécessaire à la formation d’un réseau de reconnaissance d’images supervisée est passé d’environ trois heures fin 2017 à environ 88 secondes en juillet 2019.

Ce saut phénoménal dans le temps d’entraînement n’a pas compromis la précision. Lorsque les chercheurs de Stanford ont analysé le modèle de classification d’images ResNet, ils ont découvert que l’algorithme nécessitait 13 jours de formation pour atteindre une précision de 93 % en 2017. Le coût de la formation était estimé à 2 323 $ (2083 euros). Seulement un an plus tard, la même performance ne coûtait que 12 $ (11 euros).

Le rapport a également mis en évidence des améliorations spectaculaires de la vision par ordinateur qui permettent de reconnaître automatiquement les actions et les activités humaines à partir de vidéos.

Ces résultats mettent en lumière le rythme effréné auquel l’IA progresse. Ils signifient que, le plus souvent, un nouvel algorithme fonctionnant sur un ancien ordinateur sera meilleur qu’un ancien algorithme sur un ordinateur plus récent.

Voici d’autres idées clés tirées du rapport :

• L’IA est le mot à la mode dans toutes les actualités, mais aussi dans les salles de classe et les laboratoires des universités. De nombreux doctorants en informatique choisissent un domaine d’IA pour leur spécialisation en 2018 (21 %).
• De 1998 à 2018, la recherche sur l’IA évaluée par des pairs a augmenté de 300 %.
• En 2019, les investissements privés mondiaux dans l’intelligence artificielle ont dépassé 70 milliards de dollars, dont 37 milliards de dollars pour les investissements de démarrage, 34 milliards de dollars pour les fusions et acquisitions, 5 milliards de dollars pour les introductions en bourse et 2 milliards de dollars pour les participations minoritaires.
• En termes de volume, la Chine est maintenant le pays qui publie le plus grand nombre d’articles de revues et de conférences en IA, après avoir surpassé l’Europe l’an dernier. Elle est devant les États-Unis depuis 2006. La France est actuellement classée 5e dans le Global AI Index.
• Mais ce n’est qu’un volume, et qualitativement parlant, les chercheurs d’Amérique du Nord sont en tête du peloton, plus de 40 % des citations d’articles sur l’IA sont attribuées à des auteurs d’Amérique du Nord, et environ un sur trois vient d’Asie orientale.
• Singapour, le Brésil, l’Australie, le Canada et l’Inde ont connu la croissance la plus rapide dans le recrutement d’IA entre 2015 et 2019.
• La grande majorité des brevets déposés entre 2014 et 2018 ont été déposés dans des pays comme les États-Unis et le Canada, et 94 % des brevets sont déposés dans des pays riches.
• Entre 2010 et 2019, le nombre total d’articles d’AI sur arXiv (prépublications scientifique) a été multiplié par 20.

Le rapport à consulter sur le site de l’université Stanford : 2019 AI Index Report.