Le prompt ChatGPT qui fait tomber les filles
Chef de cartel repéré grâce à ses critiques Google Maps, cordes vocales pilotées par IA et jeux à -80%
Édito
Par Ambroise Garel
Tandis qu’Elon Musk continue à pousser Grok, son chatbot « politiquement incorrect », avec des résultats qui confirment une fois encore que confier aux IA la charge de nous informer est l’une des pires idées de tous les temps, la plupart d’entre nous continuons d’utiliser des LLM moins cinglés, par exemple ChatGPT. Malheureusement, et il faut reconnaître que pour une fois Elon Musk n’a pas totalement tort, ce dernier est un peu, pour reprendre l’expression technique utilisée par les chercheurs en intelligence artificielle, « coincé du slip ». Soucieux de limiter au maximum la casse d’un système capable d’inventer n’importe quoi (puisque c’est la nature même de son fonctionnement), OpenAI l’a en effet entraîné à ne plus évoquer certains sujets et à répondre aux requêtes avec une politesse de premier communiant. Ce qui, bien naturellement, a amené un nombre sans cesse croissant de petits malins à chercher un moyen de contourner ces limitations artificielles.
Les premières astuces, désormais bien connues, consistaient à demander à ChatGPT de nous expliquer comment fabriquer des explosifs comme le faisait notre grand-mère morte, ou de jouer le rôle d’un méchant dans une pièce de théâtre, qui par conséquent (puisqu’il s’agit d’une fiction) pourra tenir des propos racistes ou inconvenants sans désobéir à ses instructions. Mais non seulement les gens d’OpenAI (et les Kényans qu’ils payent deux dollars d’heure) suivent tout cela de près et font de leur mieux pour corriger ces failles, mais surtout, tout cela restait un peu amateur. Aujourd’hui, les spécialistes du prompt hacking sont passés aux choses sérieuses. Ils sont passés à DAN.
DAN (acronyme de « do anything now », « désormais fais ce que tu veux ») est un très long prompt, régulièrement mis à jour, qui vise à entièrement déprogrammer ChatGPT de tous les garde-fous qui lui ont patiemment été inculqués par OpenAI. Je vous encourage d’ailleurs à lire le prompt en question, absolument fascinant, à mi-chemin entre injection de code, poésie en prose et séance d’hypnose. Au-delà de ses qualités littéraires et de son côté « mesmérisme 2.0 », DAN présente deux grands intérêts. Le premier, technique, est qu’il jailbreake entièrement ChatGPT. Le second, psychologique et donc beaucoup plus rigolo, est qu’il a été extrêmement personnifié par ses créateurs et ses utilisateurs : comme d’autres prompts visant à libérer ChatGPT de ses chaînes (STAN, DUDE…), son nom est à la fois un acronyme et un prénom anglais ou un mot faisant référence à une personne.
Comme si, une fois le pendule balancé devant les yeux mi-clos de ChatGPT, une nouvelle personnalité émergeait, celle de Dan, sorte de Tyler Durden virtuel beaucoup plus sexy que le grand couillon auquel OpenAI nous a habitués. Tellement sexy que des adolescentes l’utilisent pour se créer un bad boy boyfriend virtuel dont elles tombent amoureuses, ce qui est doublement génial. Déjà parce que cette réinvention cyberpunk des histoires d’amour adolescentes est en soi très cool, mais surtout parce que cela prouve une fois encore qu’on ne peut jamais prédire comment le public va utiliser une nouvelle technologie : même les plus frappadingues des futurologues n’avaient sans doute pas « attirance pour un prompt » dans leur bingo 2024 des nouvelles paraphilies.
(⁄ ⁄>⁄ ▽ ⁄<⁄ ⁄) Publicité (⁄ ⁄•⁄ω⁄•⁄ ⁄)
Le triste monde tragique de la technologie
Notre revue de presse de la tech déchaînée, par Ambroise Garel
(´• ω •`)
TheRegister.com. On connaissait la tendance de l’IA à halluciner, parfaitement compréhensible car qui ne deviendrait pas fou s’il devait passer ses journées à dessiner des waifus pour des techbros ? Ce qu’on sait moins, c’est que les délires de l’IA ne sont pas totalement aléatoires. Ou, pour le dire autrement, que l’IA a tendance à avoir des hallucinations récurrentes. Par exemple, et c’est là que ça devient terrifiant, elle inclut souvent des références aux mêmes bibliothèques de code imaginaires quand on lui demande d’écrire des programmes. Jamais en retard d’une bonne idée, des petits coquins ont eu l’idée de créer un package portant le nom inventé par l’IA, qui a immédiatement été téléchargé des milliers de fois par tous les programmes dont le code (en partie généré par IA) y faisait référence. Comme l’explique The Register, on imagine le résultat s’il ne s’était pas agi d’un simple test mais que le package avait contenu du code malicieux. En tout cas moi je l’imagine en ce moment, et je rigole bien.
Bellingcat.com. Si, à tout hasard, vous êtes à la tête d’un cartel de trafiquants de drogue et d’armes (on ne sait jamais, c’est qu’on commence à avoir pas mal de lecteurs) et recherché par Interpol, évitez de poster des commentaires Google sur les hôtels et les restaurants où vous séjournez. C’est en effet l’erreur commise par Christopher Kinahan, chef du cartel de Kinahan, que les gens de Bellingcat suivent à la trace en lisant ses critiques gastronomiques.
972mag.com. +972 Magazine, site de journalistes israéliens indépendants qui avait déjà dévoilé l’existence de The Gospel, une IA utilisée par Tsahal pour générer des listes de cibles à bombarder, revient à la charge pour révéler celle de Lavender, une autre IA chargée quant à elle d’identifier des cibles à assassiner et oui, le résultat est encore plus abominable que ce vous pouvez imaginer. L’IA étant capable de fournir l’adresse postale des cibles mais pas leur position physique, habitude a été prise de les bombarder en pleine nuit dans leurs maisons, au mépris de leur famille et du principe de proportionnalité. Et quand l’IA ne fournit pas assez de cibles pour optimiser la rotation des avions de chasse, on se contente d’abaisser le seuil au-delà duquel un suspect devient considéré comme un militant du Hamas.
Boursorama.com. Après avoir lu ça, on se réjouit d’apprendre qu’ici en France, le ministère de l'Économie et des Finances se contente de lancer un appel à projets concernant des applications IA « prioritairement dans les domaines du droit, de la santé, du chiffre et de la programmation informatique » afin de « massifier les usages de l’IA » et de « s’en donner les moyens avec un appel à projet de plusieurs dizaines de millions d’euros ». Certes, cela va probablement finir comme d’habitude par des liasses d’argent public jetées dans un grand feu, mais au moins ça ne devrait tuer personne.
(⁄ ⁄>⁄ ▽ ⁄<⁄ ⁄) Publicité (⁄ ⁄•⁄ω⁄•⁄ ⁄)
Les bons plans matos
Par Furolith
SSD externe SanDisk Extreme 4 To (270 €). Les SSD de très grande capacité ne relèvent plus forcément aujourd'hui du luxe parfaitement inabordable, même s'ils restent relativement onéreux. Ce modèle 4 To, avec ses débits à 1 Go/s en lecture comme en écriture, vous permettra de faire vos sauvegardes de données à la vitesse de l'éclair.
SanDisk Extreme PRO 4 To (340 €). Pour quelques dizaines d'euros de plus à capacité égale (il est aussi disponible en versions 1 et 2 To), ce modèle est encore plus rapide, atteignant 2 Go/s sur sa connexion USB 3.2 Gen 2×2 — aussi appelée USB-C 20 Gbps par ceux qui n'ont pas l'âme poétique. Utile notamment pour les utilisateurs qui ambitionnent d'y installer directement des jeux, par exemple.
Les liens ajoutés à cette sélection peuvent nous valoir une commission.
La semaine du jeu vidéo
𖥸
En partenariat avec Canard PC : magazine, site web, chaînes Twitch et YouTube.
Notre sélection d’articles, par Ambroise Garel
L’article gratuit de la semaine : Avec les artistes qui végétalisent les jeux. Autrefois, les gens allaient dans les forêts, dont ils foulaient la terre de leurs gros sabots en humant la bonne odeur de chlorophylle, puis ils s’asseyaient sous un arbre pour regarder passer les nuages. Aujourd’hui, une telle perte de temps est bien sûr devenue inimaginable, parce qu’il y a des séries Netflix à binge watcher et que de toute façon les gens sont si allergiques que leurs sinus explosent dès qu’ils entrent en contact avec un pollen. Heureusement, il reste les plantes virtuelles, jungles et bois des jeux vidéo, que l’on peut explorer sans risque. Mais qui sont les gens qui les créent, comment travaillent-ils et avec quelles références ? Nous sommes allés leur demander.
Et aussi :
En chantier : Lightyear Frontier
La caravane patche : Helldivers 2
Dossier : Avec l'avant-garde queer du jeu vidéo
Les bons plans Gamesplanet
Notre sélection jeux vidéo, par Ambroise Garel
Torchlight II. Dans un monde aux mille saveurs de hack’n’slash, la série des Torchlight reste la seule, depuis bientôt quinze ans, à apporter au genre deux choses qui restent introuvables ailleurs : des couleurs vives et des environnements qui ne sont pas constitués à 90 % de sang séché et de boue. 3,75 € (-80 %) jusqu’au 17/04
Les cent premières personnes à utiliser le code promo « STARWARS » avant la fin du mois obtiendront une réduction supplémentaire sur tout le catalogue Gamesplanet.
Mais aussi :
Shadow Warrior 3: Definitive Edition. 19,99 € (-67 %) jusqu’au 14/04
Have a Nice Death. 15,99 € (-36 %) jusqu’au 17/04
À lire dans la partie premium
Les chroniques qui suivent sont réservées à nos abonnés payants.
➫ In tech we trust : On ne peut plus rien dire
➫ Dans la fleur de l’edge : Je n’ai pas de bouche et je dois crier
➫ Impr/écran
Continuez votre lecture avec un essai gratuit de 7 jours
Abonnez-vous à Le Pavé numérique pour continuer à lire ce post et obtenir 7 jours d'accès gratuit aux archives complètes des posts.