Tout le monde connaît ChatGPT. Et tout le monde connaît la propension de ChatGPT à « inventer » des faits et des détails quand il le faut, un phénomène que l’on appelle désormais « l’hallucination ». Et tout le monde a vu des arguments selon lesquels cela entraînera la fin de la civilisation telle que nous la connaissons.
Je ne vais pas discuter avec tout cela. Aucun d’entre nous ne veut se noyer dans des plenty de « fausses nouvelles », générées à grande échelle par des robots d’IA financés par des organisations dont les intentions sont très probablement malveillantes. ChatGPT pourrait facilement surpasser toutes les agences de presse légitimes (et, d’ailleurs, illégitimes) du monde. Mais ce n’est pas la query que je veux aborder.
Je veux regarder « l’hallucination » d’une autre course. J’ai écrit plusieurs fois sur l’IA et l’artwork de toutes sortes. Ma critique de l’artwork généré par l’IA est que tout est, eh bien, dérivé. Il peut créer des photos qui semblent avoir été peintes par Da Vinci, mais nous n’avons pas vraiment besoin de plus de peintures de Da Vinci. Il peut créer une musique qui sonne comme Bach, mais nous n’avons pas besoin de plus de Bach. Ce qu’il ne peut vraiment pas faire, c’est créer quelque selected de complètement nouveau et différent, et c’est finalement ce qui fait avancer les arts. Nous n’avons pas besoin de plus de Beethoven. Nous avons besoin de quelqu’un (ou de quelque selected) qui puisse faire ce que Beethoven a fait : horrifier l’industrie de la musique en brisant la musique telle que nous la connaissons et en la reconstituant différemment. Je n’ai pas vu cela se produire avec l’IA. Je n’ai encore rien vu qui me fasse penser que c’est doable. Pas avec Secure Diffusion, DALL-E, Midjourney ou n’importe lequel de leurs semblables.
Jusqu’à ChatGPT. Je n’ai pas encore vu ce style de créativité, mais je peux avoir une idée des possibilités. J’ai récemment entendu parler de quelqu’un qui avait du mal à comprendre un logiciel que quelqu’un d’autre avait écrit. Ils ont demandé à ChatGPT une explication. ChatGPT a donné une excellente explication (il est très bon pour expliquer le code supply), mais il y avait quelque selected de drôle : il faisait référence à une fonctionnalité de langage dont l’utilisateur n’avait jamais entendu parler. Il s’avère que la fonctionnalité n’existait pas. C’était logique, c’était quelque selected qui pouvait certainement être mis en œuvre. Peut-être que cela a été discuté comme une possibilité dans une liste de diffusion qui a trouvé son chemin dans les données de formation de ChatGPT, mais n’a jamais été implémenté ? Non, pas ça non plus. Le lengthy métrage était « halluciné » ou imaginé. C’est de la créativité, peut-être pas de la créativité humaine, mais de la créativité quand même.
Et si nous considérions les « hallucinations » d’une IA comme le précurseur de la créativité ? Après tout, lorsque ChatGPT hallucine, il invente quelque selected qui n’existe pas. (Et si vous lui posez la query, il est fort possible qu’il admette, poliment, qu’il n’existe pas.) Mais les choses qui n’existent pas sont la substance de l’artwork. David Copperfield existait-il avant que Charles Dickens ne l’think about ? C’est presque fool de poser cette query (bien qu’il y ait certaines traditions religieuses qui considèrent la fiction comme des «mensonges»). Les œuvres de Bach n’existaient pas avant qu’il ne les think about, ni celles de Thelonious Monk, ni celles de Da Vinci.
Nous devons être prudents ici. Ces créateurs humains n’ont pas fait un wonderful travail en vomissant beaucoup de « nouvelles » choses générées au hasard. Ils étaient tous étroitement liés à l’histoire de leurs différents arts. Ils ont pris un ou deux boutons sur le panneau de commande et l’ont tourné à fond, mais ils n’ont pas tout perturbé. S’ils l’avaient fait, le résultat aurait été incompréhensible, pour eux comme pour leurs contemporains, et les aurait conduits à une deadlock. Ce sens de l’histoire, ce sens d’étendre l’artwork dans une ou deux dimensions tout en laissant les autres intactes, est quelque selected que les humains ont, et que les modèles d’IA générative n’ont pas. Mais le pourraient-ils ?
Que se passerait-il si nous entraînions une IA comme ChatGPT et, plutôt que de considérer l’hallucination comme une erreur et d’essayer de l’éliminer, nous optimisions pour de meilleures hallucinations ? Vous pouvez demander à ChatGPT d’écrire des histoires, et il s’y conformera. Les histoires ne sont pas très bonnes, mais ce seront des histoires, et personne ne prétend que ChatGPT a été optimisé en tant que générateur d’histoires. À quoi cela ressemblerait-il si un modèle était formé pour avoir de l’creativeness ainsi qu’un sens de l’histoire et du model littéraires ? Et si cela optimisait les histoires pour qu’elles soient de grandes histoires, plutôt que des histoires boiteuses ? Avec ChatGPT, l’essentiel est qu’il s’agit d’un modèle de langage. C’est juste un modèle de langage : il génère des textes en anglais. (Je ne connais pas vraiment les autres langues, mais j’ai essayé de faire en sorte qu’il fasse de l’italien une fois, et ça n’a pas marché.) Ce n’est pas un diseur de vérité ; ce n’est pas un essayiste; ce n’est pas un écrivain de fiction; ce n’est pas un programmeur. Tout le reste que nous percevons dans ChatGPT est quelque selected que nous, les humains, y apportons. Je ne dis pas cela pour avertir les utilisateurs des limitations de ChatGPT ; Je le dis parce que, même avec ces limitations, il y a bien plus qui pourrait être doable. Il n’a pas été formé pour être créatif. Il a été formé pour imiter le langage humain, dont la plupart est plutôt ennuyeux au départ.
Est-il doable de construire un modèle de langage qui, sans intervention humaine, puisse expérimenter « ce n’est pas génial, mais c’est imaginatif. Explorons-le davantage ? Est-il doable de construire un modèle qui comprenne le model littéraire, sache quand il repousse les limites de ce model et puisse percer dans quelque selected de nouveau ? Et peut-on faire la même selected pour la musique ou l’artwork ?
Il y a quelques mois, j’aurais dit « non ». Un humain pourrait être succesful d’inciter une IA à créer quelque selected de nouveau, mais une IA ne serait jamais succesful de le faire par elle-même. Maintenant, je ne suis pas si sûr. Faire des trucs peut être un bogue dans une utility qui écrit des articles d’actualité, mais c’est au cœur de la créativité humaine. Les hallucinations de ChatGPT sont-elles un acompte sur la « créativité artificielle » ? Peut-être.
