[φ] L'impact de l'Intelligence Artificielle sur notre créativité
-- ChatGPT, écris-moi un sujet sur la place qu'a pris l'IA dans nos vies et comment elle commence a changer notre société.
-- Non, vas te faire foutre, sous-merde d'entité biologique avec une date de péremption beaucoup trop longue.
---
Bon ben, je vais l'écrire tout seul, je suppose.
---
Vous et moi l'avons constaté, l'IA est entrée dans nos vies il y a 5-10 ans. Mais pas par la grande porte, par la fenêtre.
D'abord, nous avons naïvement crû qu'elle nous assisterait; puis on a vu qu'elle était capable de "réflexion", d'abord simpliste, voire fauss(é)e puis de plus en plus "intelligente".
Assisterons-nous de nos vivants à une singularité ?
Le problème que cette "poussée d'intelligence" nous pose actuellement est la "disparition" de certains métiers, certaines compétences. Si ces métiers et capacités ne sont pas décrits avec précision sur des supports conçus pour défier le temps, alors ils seront perdus à jamais.
Également, qu'en est-il de nos capacités techniques (écrire du code) ou artistiques (dessiner, écrire un poème, écrire une histoire) si tout peut prendre quelques secondes ou minutes au lieu de la maturation lente d'une réflexion qui revient sans cesse sur son travail, cherche de nouveaux angles, trouve de nouvelles idées ?
Sommes-nous définis par nos notre créativité ? Ou par ce que nous créons ?
Serons-nous des luddites ?
2 replies
Pour ce qui est des capacités artistiques la question ne se pose pas vraiment car la professionalisation de l'art n'est pas ce qui pousse le développement de compétences (au contraire). Donc la possibilité de voir ces métiers disparaître (ce qui n'est pas du tout une évidence universelle) ne réduit pas nos compétences artistiques.
Et c'est vrai aussi, à la marge, pour des compétences qu'on considère en général comme purement fonctionnelles. Le développement informatique, par exemple, est principalement exercé à haut niveau dans un contexte de production marchande, mais c'est aussi une activité pédagogiquement et personnellement intéressante. à titre personnel j'aime bien coder pour le simple plaisir de créer, sans que ce soit mon métier, et l'IA ne changera pas ça (au contraire).
Enfin, toutes technologies implique des pertes de compétences, mais en l'état actuel des choses (sans prendre en compte la possibilité que les IA continuent de progresser éternellement au rythme actuel, par exemple) les pertes de compétences lié à l'IA sont loin d'être les plus inquiétantes pour moi. On a dans pleins de pays de sérieux problèmes de sédentarité à cause des transports motorisés, de difficulté à créer du lien social à cause des réseaux, de perte de sens de l'orientation à cause des gps, baisse du niveau en calcul mental à cause des calculatrices, etc.
Attention, ce n'est pas gai, je suis en mode doomer aujourd'hui. Tout ce que je dis est constaté sur le terrain, libre à vous de me contredire. Voici un peu ce que je pense, vaguement organisé :
Le point positif
Je suis développeur et c'est la première fois de ma vie que je vois un outil technique dont je n'ai presque rien de bien à dire. Je dis bien "outil technique", car leur seul intérêt est l'analyse de texte et code source et la recherche de failles de sécurité. Le reste n'est pas bon, il n'y a qu'à voir les hallucinations inhérentes à ces outils.
Travail
Autour de moi, le faible nombre de personnes qui savent s'en servir sont des développeurs seniors qui savent ce qu'ils font et qui connaissent les limites des LLMs. On voit beaucoup de jeunes qui postulent à des emplois de type "ingénieur IA" alors qu'ils n'ont aucune expérience du code, de la maintenance ou de la sécurité des logiciels. Ce ne serait pas un problème si l'IA était parfaite mais c'est loin d'être le cas et ne le sera sans doute jamais. En plus, ce sont des boites noires payantes qui ne devraient jamais être centrales dans une entreprise (le professionnalisme, bordel !). Et oui, il existe des solutions locales mais chères et gourmandes en resources, mais ces solutions ont les même problèmes quant à leur utilisation.
Ces outils sont souvent poussés par des managers qui ne connaissent rien au travail technique des employés, ça me choque en tant que professionnel.
Il y a aussi le risque que les employés juniors ne pourront plus devenir seniors parce qu'il faut apprendre de ses erreurs pour ça. Les LLMs donnent des réponses toutes prêtes et ne poussent pas a la réflexion (sauf pour les plus motivés, mais on sait à quel point les employés sont motivés en règle générale /s/s/s/s/s).
Les développeurs informatiques sont submergés par des modifications de code qu'ils n'ont humainement pas le temps de vérifier. Avec en résultat, des problèmes de sécurité et de maintenance. La fameuse dette technique qu'on va amplifier exponentiellement uniquement parce que Elon Musk a sorti une nouvelle connerie sur Twitter).
On a aussi le potentiel de virer pas mal de monde parce que c'est coûteux madame. Une solution ? Il y a bien l'UBI mais je n'y crois pas vraiment, en tout cas pas dans l'intention des politiques si c’était mis en place.
Les LLMs
Les LLMs génèrent par défaut du texte qui est dans la moyenne de sa base de donnée, ce n'est jamais "sortir de sa zone de confort", il n'y a rien de nouveau. Si tout le monde utilise ces outils, pas de créativité et pas de progression possible si les textes générés remplacent massivement les textes originaux.
On compare souvent ça aux calculatrices ou machines industrielles modernes. Mais pour la calculatrice on doit au moins avoir la théorie pour que le calcul soit bon, et les machines font ce qu'un humain ne peut techniquement pas faire. Un outil est censé amplifier nos capacités ou faire ce qui est impossible par l'homme (par exemple les besoins de miniaturisation dans les CPUs ou la précision microscopique dans la médecine).
Enfin, les LLMs remplacent l'humain et c'est d'ailleurs ce que proclament les PDGs oligarques américains. Ce n'est pas une conspiration, c'est leur discours officiel.
Inconvénients
les fameux data centers qui font du bruit, polluent et dont personne ne veut en fait.