La responsabilité est exclusivement humaine
Il convient également de garder à l'esprit que les modèles d'IA ne seront jamais parfaits. Et ils sont, malheureusement, à l'abri de toute conséquence.
Réfléchissez à la relation entre l'IA et les actualités. Jusqu'à présent, tout porte à croire que l'IA a du mal à donner des résultats satisfaisants. Les recherches de la BBC suggèrent que plus de la moitié des recherches liées à l'actualité effectuées par les principaux outils d'IA comportent des erreurs importantes. On ne peut qu'imaginer quel est ce ratio dans d'autres domaines, notamment pour des questions plus spécialisées ou techniques, pour lesquelles les ensembles de données sont plus restreints et où même les erreurs les plus minimes peuvent avoir des conséquences considérables.
Cette situation pourrait évidemment s'améliorer, et elle s'améliorera (en théorie). À l’échelle de l’industrie, les efforts se poursuivent pour créer de meilleurs modèles. Au niveau de l'organisme, l'amélioration de la gestion des données et l'élimination du cloisonnement de l'information permettront d'accroître le volume et la qualité des données disponibles. Ce processus est toutefois long, complexe et coûteux.
En réalité, même les modèles d'IA les plus sophistiqués sont peu fiables. Les GML n’analysent pas le sens, mais seulement la corrélation. Si un outil d'IA parvient à établir correctement la corrélation, sur la base de son analyse des données existantes, il produira ce résultat, que les mots eux-mêmes aient un sens ou non.
On ne peut pas se fier à l'IA pour obtenir la vérité, des renseignements ou une adéquation avec les objectifs d'un organisme : elle ne fait que refléter les tendances observées dans les données existantes.
Si l'on met des outils d'IA à la disposition des employés sans leur fournir de formation, ceux-ci ne seront ni préparés ni motivés pour valider les résultats. Il serait désastreux de se fier aveuglément à l'IA. Par conséquent, tous les membres de l'organisme, des cadres supérieurs aux employés débutants, doivent posséder les compétences nécessaires pour tirer parti des atouts de l'IA, pallier ses faiblesses et combler ses lacunes.