7. Complémentarité, rationalité et IA bénéfique
Les familles techniques répondent à des besoins différents : expliquer, apprendre, optimiser et décider sous incertitude. Les systèmes contemporains les combinent souvent. Un système neuro-symbolique peut, par exemple, utiliser un réseau neuronal pour reconnaître un objet, puis appliquer des règles symboliques pour raisonner à son sujet. Un agent peut également combiner recherche, probabilités et apprentissage.
Cette complémentarité évite une opposition trop simple entre « ancienne » IA symbolique et « nouvelle » IA neuronale. Le choix doit découler du problème, des données disponibles, de l’exigence d’explicabilité, du niveau d’incertitude et des contraintes de calcul.
La semaine se termine par une exigence de conception : viser des IA bénéfiques. Dans le monde réel, il est difficile de définir un objectif unique, exact et stable. Maximiser une mesure technique peut produire des effets indésirables si cette mesure représente mal les intérêts humains. Un système utile doit donc poursuivre des objectifs sûrs, bénéfiques et alignés avec les personnes concernées. La performance seule n’est pas un critère suffisant.