Ce site recense tous les problèmes causés par les I.A.  Je sens qu'il n'a pas fini de se remplir.

Un article intéressant sur les LLM, mettant en lumière notre définition changeante d'intelligence. Et comme le dit l'article, savoir manipuler le langage à coup de modèles statistiques (les LLMs) est assez avancé pour passer le test de Turing, mais ce n'est pas pour cela que les LLM ont la moindre intelligence. Les LLM manipulent et produisent des expressions qu'elles ne comprennent fondamentalement pas. Une LLM ne comprend rien à l'expression "Il pleut comme vache qui pisse" même si elle est capable de vous la sortir.

La seconde partie de l'article parle de développement logiciel avec les LLM. J'extrais une citation de l'article : « La tâche fondamentale du développement de logiciels n'est pas d'écrire la syntaxe qui permettra d'exécuter un programme. Il s'agit de construire un modèle mental de ce système complexe, de lui donner un sens et de le gérer dans le temps. »
Les LLM n'ont aucun modèle mental. Ce sont juste de gigantesques générateurs statistiques de mots. Elles ne parviendront qu'à réaliser des tâches triviales ("Écris un bout de code en Python pour récupérer un bucket S3") mais ne sauront pas gérer la complexité de votre application. Et à moins d'entraîner votre propre IA sur votre code, elle ne saura rien de votre logiciel et de son architecture.

Si on ajoute à cela:
- que les LLM sont des monstruosités écologiques.
- qu'elles ne fonctionnent à peu près correctement que parce que des Kenyans payés 2 dollars de l'heure passent leur temps à la corriger.
- que malgré ces corrections elle continue à dire n'importe quoi.
- qu'utiliser du code produit par les LLM vous expose à des risques légaux (car les LLMs recrachent du code sans la licence originale)
- qu'à force d'utiliser les LLM pour coder, vos meilleurs codeurs - ceux qui connaissent *vraiment* l'application - se seront cassés (Passer son temps à relire du code pondu par des IA, ce n'est pas gratifiant, vous voyez ?)

Est-ce que c'est vraiment une bonne idée de les utiliser pour le développement logiciel ?

Jusqu'à présent les travaux pour limiter le baratinage des IA avaient toujours été empiriques (et souvent réalisés à coup de populations pauvres payées 2$ de l'heure : https://sebsauvage.net/links/?eaX_tQ, https://sebsauvage.net/links/?RZ7ziw), mais cette publication scientifique démontre que les "hallucinations" (aka le baratinage) des LLM n'est pas possible à éliminer.

EDIT: Article en français : https://intelligence-artificielle.developpez.com/actu/354600/L-hallucination-est-inevitable-et-serait-une-limitation-innee-des-grands-modeles-de-langage-en-intelligence-artificielle-selon-une-etude-sur-la-possibilite-d-eliminer-les-hallucinations-des-LLM/

Tiens, un ordinateur portable avec un écran transparent pas pratique et illisible, comme dans les films de Science-Fiction !
EDIT : https://bouletcorp.com/rogatons/2023/01/12

C'est trop drôle, y'a décidément rien qui va avec les I.A.
Là on a un problème avec les générateurs d'images : On sait depuis toujours qu'ils sont biaisés. Si vous leur demandez l'image d'un médecin, ça sera presque tout le temps un homme, et blanc.

Donc les différentes entreprises qui font de l'I.A. essaient de corriger les différents biais (raciste, sexiste...) et forcer l'I.A. dans la diversité.
Sauf que quand vous demandez des images de Nazis, il vous sort des Nazies femmes, asiatiques, noirs...  c'est trop drôle : Quel que soit le problème avec les I.A., aucune correction ne donne quelque chose de correct ! 😄

Apparemment depuis quelques temps, ChatGPT répond vraiment n'importe quoi. Du blabla sans aucun sens.
Voilà pourquoi il ne faut jamais utiliser ce type d'«I.A.» pour prendre des décisions.
OpenAI est en train d'investiguer.

EDIT: Article en français : https://intelligence-artificielle.developpez.com/actu/354502/ChatGPT-commence-a-envoyer-des-messages-alarmants-et-incoherents-aux-utilisateurs-ChatGPT-est-devenu-fou-estime-un-specialiste-de-l-IA-qui-decrit-ce-comportement-comme-un-avertissement/

La merdification de la vie quotidienne à cause des IA ne fait que commencer. Deux exemples :
- un conducteur s'est pris une amende par un radar automatique parceque ce dernier pensait qu'il était en train de téléphoner alors qu'il se grattait juste la tête : https://geeko.lesoir.be/2024/02/15/si-vous-vous-grattez-la-tete-vous-pourriez-recevoir-une-amende-pour-telephone-au-volant/
- une compagnie aérienne refusait de rembourser un voyageur car le chatbot/IA de la compagnie avait parlé au voyageur d'une réduction qui n'existait pas : https://www.wired.com/story/air-canada-chatbot-refund-policy/

Dans les temps qui viennent attendez vous à d'autres cas plus stupides les uns que les autres.

Une fiction de Ploum à propos des objets trop "intelligents" ou connectés.

Grâce aux merveilleux progrès de l'I.A., internet est entré dans l'ère de la Grande Merdification.

(Comme je ne veux pas faire remonter leur pagerank, je casse le lien : )
« SQL vs. CSS What’s the Difference? Which Is Better? » - httpx://history-computer.com/sql-vs-css-whats-the-difference-which-is-better/

Article suggérés dans cette page:
« C++ vs. CSS: What’s the Difference? Which Is Better? »
« Ruby vs CSS: What’s the Difference, and Which Is Better? »

Le plus drôle dans la Grande Merdification, c'est que les futures I.A. seront entraînées sur ces sites bidons que les I.A. de la génération précédente ont vomit.  Ça va se transformer en «The Human Centipede» de l'intelligence artificielle (déso pour ceux qui n'ont pas la ref. Vous feriez peut-être mieux de ne pas la chercher, d'ailleurs)

L'implant neural d'Elon Musk a été implanté chez un premier patient. J'ai peur pour lui/elle.
Comme disait un internaute: C'est con maintenant quand un fan d'Elon aura un accident avec une Tesla ou un Cybertruck on ne saura plus si c'est à cause de la conduite autonome ou à cause du NeuraLink.

Les règles robots.txt (et autres) pour éviter que les I.A. viennent indexer et utiliser le contenu de votre site web.

Oh no.

« les utilisateurs activant Bard sur Messages devront garder en tête que leurs messages seront susceptibles d’être vus par des examinateurs de Google. »
🍪 🍪 🍪 NOM NOM NOM DES DONNÉES UTILISATEURS 🍪 🍪 🍪 NOM NOM NOM

C'est un truc de fou, cette histoire : Dans les années 1980, un coiffeur a inventé une formule pour une sorte de pâte d'isolation thermique. Elle se fabrique avec des éléments qu'on trouve chez soi, et sa pâte (Starlite) a été testée par la NASA et par le ministère de la défense nucléaire de Grande-Bretagne. Elle est tellement efficace qu'elle résiste même face à une torche à acétylène et même une torche à plasma ne lui fait pas grand chose.
L'inventeur était tellement parano qu'il n'a pas permis à la NASA d'en garder un échantillon.
Il est mort... et a livré la formule à ses enfants. Ils sont en train de monter une entreprise pour commercialiser le produit (par exemple sous forme de peinture).

Voir le reportage de la BBC : https://youtu.be/c4VeYq-IOUo
Plein de personnes ont imaginé leur propre version du produit, par exemple : https://youtu.be/aqR4_UoBIzY

Suite à la vague de procès que ChatGPT se prend dans la tronche, la réponse d'OpenAI est "Mais on ne peut pas faire autrement qu'utiliser des données sous droit d'auteur".

Comme disait un internaute, il y a quelques années on poursuivait des ados qu'on punissait avec des amendes de plusieurs millions de dollars pour avoir téléchargé quelques films, et maintenant on a des entreprises de la Silicon Valley qui admettent que leur business ne peut pas fonctionner sans violer le droit d'auteur des autres. Et qui demandent des exemptions au droit d'auteur.
Il y a une légère différence de traitement.

Je rappelle les raisons pour lesquelles je pense que ChatGPT et autres LLMs n'ont que peut d'avenir :

(1) Le coût énergétique pour les faire fonctionner est *colossale*, et ce coût énergétique fait qu'elles ne sont pas rentables économiquement (Le coût de fonctionnement de ChatGPT est de 700 000 dollars PAR JOUR). Actuellement toutes perdent de l'argent. (Même ChatGPT perd de l'argent sur les comptes payants.)
(2) Les LLMs n'ont aucune appétence pour la vérité ou la qualité des réponses. Ce qu'elles sortent peut être totalement vrai, totalement faux ou un mélange des deux.
(3) Les LLMs recrachant ce qu'elles sont ingurgité, utiliser ce qui est produit par les LLMs peut VOUS mettre en danger légalement (on peut vous accuser d'avoir violé le droit d'auteur de quelqu'un), et vous ne serez même pas au courant que vous êtes en train de violer le droit d'auteur de quelqu'un.

Les services d'"I.A." actuel ne peuvent QUE se merdifier.
Bien sûr que la technologie continuera d'exister et être utilisée, mais dans des niches.

« Menée par un universitaire, l’étude met en lumière un faible taux d’élucidation des infractions et des effets quasiment nuls en matière de prévention de la délinquance. »

Remplacer des traducteurs par des IA.
C'est triste.

Cette bd résume bien ce que certains fantasment en tant que "Développement logiciel avec une I.A."

C'est rigolo cette histoire : Il y a tellement de traitements numériques dans les appareils photo des smartphones qu'on est désormais loins de la réalité, mais plus proche d'une réalité embellie (lissage des traits du visage, correction des couleurs, mode HDR...)

Microsoft a dépensé 10 milliards de dollars dans OpenAI/ChatGPT pour que son moteur de recherche - dont personne ne veut - puisse vous répondre que l'Australie n'existe pas.

Yeah incroyable Microsoft veut faire manger de l'I.A. aux développeurs de jeux vidéo.
C'est vrai qu'après le web qui est devenu une grosse usine à caca ("shit in, shit out" comme ont dit), ça manquait aux jeux vidéo les scénarios bâclés par I.A., des PNJ créés par I.A et des dialogues par I.A.
J'attends les graphismes, modèles 3D et textures faites par I.A.
MERCI MICROSOFT, ÇA NOUS PRÉPARE UN BEL AVENIR DU JEU VIDÉO, PLEIN DE CRÉATIVITÉ. 🙄

Bon ok j'admet, la création de PNJ est la moins pire des utilisations de l'I.A. dans le jeu vidéo. Ça pourrait probablement même être presque une bonne idée. Mais je vois bien venir le moment où Microsoft va proposer une solution "1 clic" pour créer des jeux vidéos pourris, jusqu'aux graphismes générés par I.A.
Après tout, il faut les rentabiliser les milliards investis dans ChatGPT (https://sebsauvage.net/links/?GPr_Aw), et on sait que ce n'est pas gagné (https://sebsauvage.net/links/?-CBiAw). (Après l'I.A. dans Office, dans Teams, dans GitHub, dans LinkedIn... je pense que Microsoft essaie désespérément de trouver des sources de revenus pour sa très couteuse I.A. - couteurs à l'achat et couteuse en fonctionnement).

EDIT: Pour l'expression "shit in, shit out", voir : https://fr.wikipedia.org/wiki/GIGO

Le successeur des microfiches ?
Ce système de gravure sur du nickel est beaucoup plus dense, et surtout beaucoup plus durable.
Une page A4 pourrait contenir 1,2 millions de documents à 150 dpi. C'est énorme !
Si on veut conserver des documents avec une meilleure qualité, à 300dpi une page pourrait contenir tout de même 300 000 documents.

Parce que tout le bordel qu'Elon propulse au dessus de nos têtes c'était pas suffisant (https://sebsauvage.net/links/?FYW2vw).

https://www.techdirt.com/2023/10/19/astronomers-say-starlink-amazon-light-pollution-keeps-getting-worse/

CloudFlare a sorti le successeur à son énervant Captcha : Turnstile n'affichera jamais de puzzle visuel, ce qui est un grand soulagement. Il y aura juste une case à cocher.

CloudFlare a également séparé Turnstile de son offre: Cette captcha sera donc installable par les webmaster même pour les sites qui ne sont pas derrière Cloudflare.

Il y des progrès plutôt encourageants concernant les technologies de stockage de l'électricité (même si bien sûr celle-là aussi ne conviendrait pas pour un appareil mobile).

Getty, le plus gros vendeur d'images au monde et le plus agressif sur le respect de son droit d'auteur, annonce aux photographes qu'il veut mettre en place un système de plagiat "socialement responsable".