Le CERN s’est fixé un programme ambitieux pour améliorer son complexe d’accélérateurs, qu’il mettra en œuvre tout au long des vingt prochaines années. Ce projet est essentiel pour que le Laboratoire puisse continuer à repousser les limites de la connaissance en physique fondamentale ; toutefois, il s’accompagne de quelques difficultés de taille sur le plan informatique. 

Pour en surmonter une partie, l’une des solutions possibles consisterait à tirer parti de technologies de l’intelligence artificielle. Celles-ci pourraient par exemple faciliter le tri des centaines de millions de collisions de particules ayant lieu chaque seconde afin de sélectionner uniquement les évènements les plus pertinents pour les études menées. Dans le domaine de la surveillance des données issues de systèmes de contrôle industriel, ces technologies pourraient également permettre d’identifier des motifs récurrents et ainsi prévenir les anomalies. Aujourd’hui déjà, l’apprentissage automatique a trouvé plusieurs applications dans ce secteur.

C’est pour discuter du potentiel d’un développement plus important de ces technologies que Vivek Nallur a été invité la semaine dernière à donner une conférence au CERN, « Intelligence and Ethics in Machines – Utopia or Dystopia? » (Intelligence et éthique chez les machines : utopie ou dystopie ?).

Vivek Nallur est professeur assistant à l’institut d’informatique de l’University College de Dublin, en Irlande. Il a présenté les principales utilisations de l’intelligence artificielle dans la société d’aujourd’hui et a relevé plusieurs limites auxquelles se heurtent les systèmes actuels. Il a par exemple évoqué les difficultés que posent la vérification et la validation des décisions prises, les problèmes liés aux biais implicites et le défi que représente l’intégration de principes éthiques dans le code.

Le conférencier a passé en revue les efforts déployés jusqu’à maintenant pour créer des systèmes d’intelligence artificielle dotés d’une éthique universelle. Plus particulièrement, il a parlé de systèmes reposant sur l’éthique conséquentialiste, sur l’éthique de la vertu ou encore sur l’éthique déontologique, en mettant en lumière les comportements radicalement différents qu’ils peuvent susciter. Plutôt qu’une éthique universelle, Vivek Nallur privilégie donc les approches fondées sur une éthique propre au domaine concerné, qui permettraient d’aboutir à un système d’intelligence artificielle capable de prendre des décisions éthiques dans un domaine spécifique. Selon lui, la meilleure façon d’y parvenir serait de mettre en place des jeux représentant des systèmes multi-agents donnés, afin qu’une éthique émerge au travers d’un accord fondé sur des mécanismes socio-évolutifs, comme dans les sociétés humaines. En d’autres termes, il propose que des agents dotés d’intelligence artificielle jouent ensemble à des jeux, jusqu’à ce qu’ils se mettent d’accord sur les actions à entreprendre et sur celles à éviter dans des circonstances données.

« Nous ne devrions pas essayer de passer, dans l’intelligence artificielle, d’une éthique inexistante à une éthique universelle ; il faut y aller étape par étape, a expliqué Vivek Nallur. Pour commencer, nous devrions miser sur des systèmes opérationnels qui peuvent jouir d’une certaine liberté dans certains domaines. Pour ce faire, il est vital que les informaticiens, les experts du domaine concerné et les professionnels du droit collaborent étroitement. » 

Vivek Nallur a été invité à s’exprimer au CERN par CERN openlab, qui coordonne plusieurs projets de R&D liés à l’intelligence artificielle avec le concours de partenaires de l’industrie et de la recherche. « Évidemment, le CERN n’est pas confronté aux mêmes questions et dilemmes éthiques que des services médicaux ou des autorités qui utiliseraient l’intelligence artificielle, souligne Alberto Di Meglio, responsable de CERN openlab. Ce serait toutefois une erreur de rejeter cette problématique au rang de simple exercice de réflexion philosophique dans le cadre de la physique des particules. Au CERN, nous sommes fiers de voir que les outils et les techniques que nous mettons au point sont souvent adoptés par d’autres, dans la recherche comme dans l’industrie. Il est donc fondamental que nous tenions compte dès le début des considérations éthiques que soulèvent les technologies de l’intelligence artificielle. J’espère que cette conférence fascinante encouragera les discussions sur le sujet au sein de notre communauté. » 

La conférence de Vivek Nallur est disponible en version intégrale sur CDS.