10 raisons de craindre l’IA et 10 raisons de lui faire confiance

Les humains mettent des dizaines d’années à maîtriser quelque chose. L’IA peut passer du statut d’ignorant à celui d’expert en l’espace d’une semaine. C’est comme si un enfant en bas âge se mettait à lire de la philosophie du jour au lendemain. La capacité de l’IA à maîtriser des tâches plus efficacement que les humains menace de mettre au chômage un pourcentage important de la population mondiale.

L’IA ne s’épuise pas, ne s’ennuie pas et n’a pas besoin de week-ends pour récupérer. Elle cherche toujours à s’optimiser. Bien que cela soit excellent pour l’efficacité, c’est terrible si elle décide que l’efficacité signifie faire des choses que nous n’aimons pas – couper les coins ronds, réécrire les règles, ou décider tranquillement que nous sommes le problème.

L’IA est le rêve devenu réalité des escrocs. Grâce à elle, ils peuvent imiter la voix et le visage des gens et tromper les autres en leur faisant croire qu’ils sont réels. Des vidéos circulent déjà, montrant des personnalités qui disent des choses qu’elles n’ont jamais dites en réalité. Imaginez une note vocale qui ressemble à s’y méprendre à celle de votre ami demandant de l’aide. La frontière entre la vérité et l’imitation est désormais trop étroite pour être confortable.

Il suit tout et remarque chaque clic, chaque pause et chaque hésitation. Ses systèmes de recommandation établissent un profil plus précis que l’opinion que votre meilleur ami a de vous. Bien sûr, cela signifie des listes de lecture parfaites. Mais cela signifie aussi une manipulation parfaite.

Il prendra d’abord les concepteurs, les codeurs et les rédacteurs, puis il s’attaquera aux ouvriers d’usine et aux chauffeurs. Il s’agit d’un remplacement lent et, bien que tout le monde ne soit pas encore concerné, le jour viendra peut-être où le bureau n’aura plus du tout besoin d’un être humain, à l’exception des programmes d’entretien de routine.

Lorsque l’IA commet une erreur et pose un mauvais diagnostic sur un patient, refuse un prêt ou déclenche l’arrestation de la mauvaise personne, qui blâme-t-on ? L’ingénieur ? L’entreprise ? Le code ? L’IA est porteuse d’une énorme responsabilité sans qu’il y ait d’obligation de rendre compte.

Un adolescent peut désormais produire de la propagande depuis sa chambre, qu’il s’agisse d’escroqueries de type « deepfake », de trolling automatisé ou de diffusion de fausses nouvelles à l’échelle industrielle. La technologie en elle-même n’est pas mauvaise, mais les outils ne vérifient pas qui les détient.

Nous assumons le contrôle parce que nous l’avons construite, mais la logique de l’IA n’est pas la logique humaine. Elle trouve des raccourcis que personne n’avait prévus et exploite des failles que personne n’avait écrites. Elle peut prendre un objectif comme « gagner à tout prix » et briser complètement le jeu.

Que signifie aujourd’hui écrire un poème, ou créer en général ? Lorsque des machines peuvent le faire plus magnifiquement que la plupart d’entre nous, cela nous oblige à remettre en question la spécificité autour de laquelle nous avons construit notre espèce. C’est peut-être une bonne chose pour l’humilité. Peut-être est-ce le début d’une crise d’identité.

L’IA promet commodité, efficacité et perfection. À mesure qu’elle se banalisera, les gens commenceront à l’utiliser parce que tout le monde le fait. Si vous êtes propriétaire d’une entreprise, vous serez contraint de l’utiliser parce que votre concurrent le fait. Au bout du compte, dire non reviendra à refuser l’avenir.

Voici maintenant 10 raisons pour l’autre camp.

Les médecins utilisent l’IA pour repérer les cancers invisibles à l’œil nu. Grâce à cette technologie, les économistes sont en mesure de repérer les risques du marché des mois avant l’effondrement. Même les agriculteurs peuvent prévoir les sécheresses et planter plus intelligemment. L’IA ne remplace pas l’intuition, elle la développe.

Imaginez un monde où toute la machinerie ennuyeuse de la vie quotidienne fonctionne toute seule. Plus de paperasse, plus de comptabilité, plus de file d’attente à la préfecture. Le nombre d’heures que l’IA nous rendrait pourrait être énorme, nous permettant de nous consacrer à des activités qui nous intéressent vraiment.

Un habitant d’un village isolé disposant d’un téléphone a désormais accès au même soutien scolaire, aux mêmes conseils médicaux ou à la même capacité de traduction qu’un habitant de Manhattan. Ce n’est pas de la théorie, c’est déjà en train de se produire. L’intelligence n’est plus un privilège réservé aux étudiants hautement qualifiés.

Il n’y a pas de seuil d’ennui. Il peut trier des millions de scanners médicaux, analyser des contrats juridiques ou tester des matériaux des milliers de fois. Pour les humains, c’est abrutissant. Pour l’IA, c’est mardi.

L’IA aide déjà à concevoir des réseaux énergétiques plus propres, à prévoir la déforestation et à détecter la pollution depuis l’espace. Ce n’est pas très prestigieux, mais c’est tranquillement révolutionnaire. C’est le type de modélisation qui pourrait permettre de maintenir la lumière allumée sans nuire à l’environnement.

Les outils d’IA permettent aux personnes paralysées de communiquer grâce à des programmes de synthèse vocale. Ils offrent également une traduction en temps réel pour les personnes qui ne peuvent ni lire ni entendre. Cette technologie est littéralement capable de transformer la vie des gens pour le meilleur.

Curieusement, les machines nous font prendre conscience de ce que les humains font le mieux. Lorsqu’une IA dit quelque chose de réconfortant mais de creux, elle nous rappelle à quel point l’attention sincère est irremplaçable. Le contraste est peut-être bon pour nous.

L’IA ne se contente pas de copier, elle extrapole. Les architectes l’utilisent pour imaginer des villes qui s’adaptent au climat, tandis que les cinéastes s’en servent pour construire des mondes qui ne pourraient pas exister autrement. C’est comme avoir un partenaire créatif qui ne se lasse jamais de collaborer.

Lorsque l’IA échoue, elle ne fait souvent que refléter les données que nous lui avons fournies. Cette réalité nous renvoie un miroir cru. Elle n’invente pas les préjugés, elle les révèle. Cette prise de conscience peut être douloureuse, certes, mais c’est aussi l’occasion de réparer ce qui a été invisible pendant trop longtemps.

Malgré les gros titres, la machine nous répond toujours. Elle reflète nos demandes, nos limites et nos espoirs. La vraie question n’est pas de savoir si l’IA nous détruira, mais si nous la guiderons avec suffisamment de sagesse pour ne pas nous détruire nous-mêmes à travers elle.