La responsabilité de l’IA restera humaine : l’exemple de la collusion algorithmique

La déconcertante legerté avec laquelle OpenAI a traité le hack de Hugging face – ainsi que la toute aussi étonnante absence de poursuite judiciaire de la part de cette dernière - a laissé planer un doute sur la responsabilité de l’IA.

Il n’y a pas d’autres moyens que de tenir responsables ceux qui emploient la technologie. L’exemple de la collusion algorithmique est édifiant à cet égard.

Prenons l’exemple de la lutte contre les cartels et les ententes, imaginons une industrie fictive qui est détenue à plus de 95% par ses quatre principaux producteurs. Si ces derniers se retrouvent à un restaurant, et s’accordent de manière informelle sur l’intérêt commun à augmenter les prix de 30% pour doper leur rentabilité, alors ils sont dans un cas flagrant d’infraction au droit de la concurrence, et encourent de graves sanctions.

Maintenant , ces 4 industriels sont toujours là, mais finalement ils ont pris le tournant de l’IA agentique à laquelle ils délèguent l’automatisation de leur politique tarifaire – ce qui existe déjà dans de nombreux cas de figure – avec pour seule instruction à l’agent IA de maximiser la rentabilité de l’entreprise, ce qui n’est pas un crime en soi et même considéré comme l’objectif premier par tout un pan de la science économique.  Il est fort à parier que ces 4 IA , interagissant ensemble, conscientes de leurs objectifs respectifs et de la théorie des jeux, décident a l’unisson… d’augmenter les prix de … 100%.

Qui est alors responsable ?  

Implacablement, la responsabilité revient à ceux qui n’auront pas assuré une supervision et une traçabilité du parcours décisionnel de leurs outils.

Ces sujets faisaient l’objet de premières études dès 2015, 2016 au moment où j’avais initié la stratégie Big Data chez Edmond de Rothschild, mais cela restait encore relativement abstrait. Ces trois dernières années, les cas concrets et les études  se sont multipliées. Pour ceux qui veulent aller plus loin :  Fish, S., Gonczarowski, Y. A., & Shorrer, R. I. (2024/2025). Algorithmic Collusion by Large Language Models démontrent que GPT3.6 était déjà capable de mettre ce type de comportements en place.  Il y a également des exemples empiriques, notamment sur le marché des stations-services en Allemagne avec l’adoption d’outils de tarification algorithmiques.