Les modèles d'IA d'aujourd'hui, selon Jeff Dean, responsable de l'IA de Google et co-fondateur du projet Google Brain, sont à la phase de poney à un tour – ils sont «généralement formés pour faire une seule chose». Mais une nouvelle approche appelée Pathways pourrait fournir quelque chose qui ressemble à un chien dressable qui peut faire plusieurs tours.
Dean décrit Pathways comme une « architecture d'IA de nouvelle génération » qui « nous permettra de former un seul modèle pour faire des milliers ou des millions de choses ».
Les voies peuvent supprimer les limites de la capacité d'un modèle d'IA à répondre aux informations d'un seul sens et lui permettre de répondre à plusieurs sens, tels que le texte, les images et la parole.
« Pathways pourrait permettre des modèles multimodaux qui englobent simultanément la vision, l'audition et la compréhension du langage », explique Dean.
Le modèle, par exemple, pourrait alors traiter le mot « léopard », le son de quelqu'un disant « léopard » ou une vidéo d'un léopard en train de courir.
Dans les trois cas, l'IA reconnaît le concept de léopard. Dean soutient qu'un tel modèle serait « plus perspicace et moins sujet aux erreurs et aux préjugés ».
Le biais est un sujet délicat pour Google. En décembre, son meilleur chercheur en éthique de l'IA, Timnit Gebru, a démissionné après que Dean aurait été en désaccord avec un article qu'elle a co-écrit sur les coûts énergétiques associés à la création de nouveaux modèles d'IA, et le fait que ses modèles ont tout ingéré du Web, y compris raciste, contenu sexiste et abusif, influençant ainsi potentiellement le fonctionnement d'un modèle d'IA. Le document n'a pas été publié mais a été consulté par MIT Technology Review.
« Nous aimerions former un modèle capable non seulement de gérer de nombreuses tâches distinctes, mais également d'exploiter et de combiner ses compétences existantes pour apprendre de nouvelles tâches plus rapidement et plus efficacement », déclare Dean.
Ce qu'il semble décrire, c'est une IA qui peut se connecter à d'autres modèles d'IA et exploiter leurs meilleures parties en utilisant un modèle Pathways qui "apprend dynamiquement quelles parties du réseau sont bonnes pour quelles tâches - il apprend comment acheminer les tâches à travers le plus parties pertinentes du modèle.
Ainsi, Pathways pourrait améliorer la capacité de l'apprentissage automatique à prendre des décisions, et éventuellement le rapprocher d'une IA qui peut réellement raisonner à travers un problème ou un scénario.
Dean soutient que Pathways a non seulement une plus grande capacité d'apprentissage de différentes tâches, mais qu'il est également plus économe en énergie car seules les parties pertinentes d'un réseau sont activées pour une tâche donnée.
« Pathways permettra à un seul système d'IA de se généraliser sur des milliers ou des millions de tâches, de comprendre différents types de données et de le faire avec une efficacité remarquable - nous faisant passer de l'ère des modèles à usage unique qui ne font que reconnaître des modèles à celui dans lequel des systèmes intelligents plus polyvalents reflètent une compréhension plus profonde de notre monde et peuvent s'adapter à de nouveaux besoins », explique-t-il.
PlatonAi. Web3 réinventé. L'intelligence des données amplifiée.
Cliquez ici pour y accéder.
