"Ford a breveté une technologie qui permettrait à un véhicule de signaler à la police les excès de vitesse des autres conducteurs"

Ça y est, ça commence à se réveiller sur le vaporware qu'on nous fourgue à toutes les sauces ?

Un procès avait été engagé envers Microsoft GitHub CoPilot (l'IA de Microsoft qui écrit du code informatique). Les plaignants reprochaient à Microsoft de copier du code leur appartenant sans la licence.
Ma fois, l'IA de Microsoft est effectivement entraînée sur tout ce qui traîne sur GitHub.
Mais sur les 22 points reprochés à Microsoft, le juge n'en a retenu que 2.
En gros, Microsoft va s'en tirer. Il va donc pouvoir continuer à piquer le code des autres et le faire recracher par son I.A. sans la licence.

Quand je vous disais que cette technologie n'est pas pérenne.

"Cher ami lecteur, j’ai une grande révélation à vous faire : toute l’informatique que vous utilisez au quotidien, oui, même votre environnement Apple, provient du logiciel libre. Sans logiciel libre, il n’y a pas d’informatique."
(vidéo : https://www.youtube.com/watch?v=Z-8qRori7m8)

Certaines entreprise se targuent d'avoir une I.A. qui détecte les traits de personnalité lors d'un entretient d'embauche.
Démonstration que c'est de la merde:  Cet utilisateur s'est amusé à mettre, en fond, une bibliothèque. Immédiatement l'IA a pensé que le candidat était meilleur.

Après Google et Microsoft, ça y est Apple va foutre de l'IA partout dans ses produits. Plus particulièrement, il intègre ChatGPT à Siri, iOS (iPhone) et MacOS (Macs) (https://arstechnica.com/gadgets/2024/06/apple-integrates-chatgpt-into-siri-ios-and-mac-os/)

Autrement dit : Si vous cherchez sur iPhone ou Mac avec un moteur de recherche traditionnel (via Siri ou autre) Apple utilise par défaut Google. Et si vous faite appel à l'IA, ça part chez Microsoft. Je rigole un peu.

Rappel : Facebook va bientôt utiliser tout ce que vous avez posté (textes, images) pour entraîner ses I.A.

Une personne pense avoir trouvé des phrases qui font partir en vrille la *TOTALITÉ* des LLM du marché (OpenAI ChatGPT/Microsoft CoPilot, Google Gemini...). Ce qui implique des problèmes de sécurité pour toutes les entreprises qui les utliisent.

Bon résumons où on en est sur les I.A. de type LLM :
- Les entreprises qui entraînent les LLM volent littéralement le travail des autres (puisques les LLM ont été entraînées sur le travail d'autruis) et VENDENT ensuite l'accès à ces LLM.
- Utiliser ce que produisent les LLM peut légalement vous mettre en danger puisqu'elles vont potentiellement recracher le travail d'autres personnes (sans la source ni la licence).
- Les jeux de données sont foireux puisqu'ils ont gobé tout internet. Donc ça sort de la merde (comme conseiller de mettre de la colle sur les pizzas pour que le fromage coule moins).
- *MÊME* quand les jeux de données sont bons, les LLM inventent n'importe quoi quand elles n'ont pas l'information.
- étant donné qu'elles absorbent tout, elles se torchent avec le respect des données personnelles et avec le RGPD.
- pire : elles ne sont pas capable de se plier à une demande RGPD (on ne peut pas "retirer" simplement une donnée d'une IA : il faut recommencer *tout* son entraînement en retirant les données du jeu de données d'apprentissage, ce qui est très couteux).
- ça nécessite un matériel très couteux.
- ça consomme des quantités absolument énormes d'énergie.
- étant donnés les coûts, aucune de ces enteprises de LLM n'est actuellement rentable, pas même en faisant payer leurs clients. Ce n'est pas une technologie pérenne.
- il est impossible - structurellement - d'empêcher les LLM de dire de la merde. C'est dû à leur nature même.
- le seul moyen de réduire la quantité de merde que sortent les LLM, c'est de les corriger H24 en exploitant des armées de travailleurs sous-payés en Afrique (et c'est très exactement ce qui se passe).
- Cette "correction", c'est comme boucher le trou d'une passoire dès que vous en trouvez un. Une passoire qui a un nombre infini de trous.


Mais ça va bien se passer, hein, c'est l'avenir. C'est ce que disent tous les GAFAM.

Derrière la "magie" des I.A. des GAFAM, une sorte d'esclavage moderne à base d'employés sous-payés qui essaient de corriger H24 les merdes que peuvent sortir les I.A.

" L'IA n'est pas une course aux armements, c'est un concours de prestidigitateurs, face auquel le scepticisme par défaut devient la seule attitude saine. "
" Les hallucinations sont inévitables. Elles sont une propriété structurelle de ces systèmes. Ça-ne-se-répare-pas. L'industrie le sait très bien. "
Et tout le reste de l'article tape *FORT*.

Je note juste le lien vers cet article pour une information précise : Même si l'IA de Microsoft - CoPilot - tourne localement sur votre ordinateur, elle communique quand même avec les serveurs de Microsoft pour s'assurer que la demande faite à l'IA est "safe".
Ce qui confirme bien qu'on peut se torcher avec les promesses de Microsoft sur le fait que l'IA sera totalement locale et qu'elle respectera notre vie privée.

Donc voilà comment Microsoft va rendre CoPilot/ChatGPT rentable : Déporter le coût du matériel (CPU/GPU/NPU) et de l'énergie (électricité) sur le client au lieu de faire tourner ça sur leurs serveurs, puisque les frais de fonctionnement sont astronomiques (Rappel : 700 000 dollars PAR JOUR pour ChatGPT).

Et crotte Google va aussi nous faire chier avec son IA "Gemini" dans Android.

1990 : voici un logiciel qui permet de réaliser cette opération.

2000 : voici un site web qui permet de réaliser cette opération via un navigateur.

2023 : voici un serveur web à installer sur votre ordinateur qui permet de réaliser cette opération via un navigateur.

2024 : voici une I.A. qui consomme des tombereaux d'énergie et pourra éventuellement réaliser l'opération.

Vous n'en voulez pas de l'I.A.?  Pas grave, vous allez en bouffer quand même ! 😠
(Parce que c'est la mode.)

C'est joli : "There is not AI - Just other people's data".
Copie là : https://sebsauvage.net/galerie/photos/Bordel/there_is_no_ai.png

Avant les fonds verts et bleus pour le cinéma, Disney utilisait une autre technique à base de lampes à vapeur de sodium... et ça marchait très bien !

Encore une marque d'objets connectés à la con qui ne fonctionne pas sans le cloud dédié du constructeur : Tous les appareils Gigaset deviennent inutilisables, car la société met la clé sous la porte.
Et comme ces périphériques n'ont pas d'option pour tourner en "local" seulement, ils deviennent de couteux presse-papiers.

Non contents d'être des mouchards qui pillent votre vie privée, les objets connectés cessent de fonctionner au moindre problème (ou désaccord) avec le fabriquant.

Et sans grosse surprise : « ChatGPT reproduit, voire amplifie des biais existants dans le monde hors ligne. ».  Oui les LLM sont aussi racistes que ceux qui les ont entraînés.

Ce site recense tous les problèmes causés par les I.A.  Je sens qu'il n'a pas fini de se remplir.

Un article intéressant sur les LLM, mettant en lumière notre définition changeante d'intelligence. Et comme le dit l'article, savoir manipuler le langage à coup de modèles statistiques (les LLMs) est assez avancé pour passer le test de Turing, mais ce n'est pas pour cela que les LLM ont la moindre intelligence. Les LLM manipulent et produisent des expressions qu'elles ne comprennent fondamentalement pas. Une LLM ne comprend rien à l'expression "Il pleut comme vache qui pisse" même si elle est capable de vous la sortir.

La seconde partie de l'article parle de développement logiciel avec les LLM. J'extrais une citation de l'article : « La tâche fondamentale du développement de logiciels n'est pas d'écrire la syntaxe qui permettra d'exécuter un programme. Il s'agit de construire un modèle mental de ce système complexe, de lui donner un sens et de le gérer dans le temps. »
Les LLM n'ont aucun modèle mental. Ce sont juste de gigantesques générateurs statistiques de mots. Elles ne parviendront qu'à réaliser des tâches triviales ("Écris un bout de code en Python pour récupérer un bucket S3") mais ne sauront pas gérer la complexité de votre application. Et à moins d'entraîner votre propre IA sur votre code, elle ne saura rien de votre logiciel et de son architecture.

Si on ajoute à cela:
- que les LLM sont des monstruosités écologiques.
- qu'elles ne fonctionnent à peu près correctement que parce que des Kenyans payés 2 dollars de l'heure passent leur temps à la corriger.
- que malgré ces corrections elle continue à dire n'importe quoi.
- qu'utiliser du code produit par les LLM vous expose à des risques légaux (car les LLMs recrachent du code sans la licence originale)
- qu'à force d'utiliser les LLM pour coder, vos meilleurs codeurs - ceux qui connaissent *vraiment* l'application - se seront cassés (Passer son temps à relire du code pondu par des IA, ce n'est pas gratifiant, vous voyez ?)

Est-ce que c'est vraiment une bonne idée de les utiliser pour le développement logiciel ?

Jusqu'à présent les travaux pour limiter le baratinage des IA avaient toujours été empiriques (et souvent réalisés à coup de populations pauvres payées 2$ de l'heure : https://sebsauvage.net/links/?eaX_tQ, https://sebsauvage.net/links/?RZ7ziw), mais cette publication scientifique démontre que les "hallucinations" (aka le baratinage) des LLM n'est pas possible à éliminer.

EDIT: Article en français : https://intelligence-artificielle.developpez.com/actu/354600/L-hallucination-est-inevitable-et-serait-une-limitation-innee-des-grands-modeles-de-langage-en-intelligence-artificielle-selon-une-etude-sur-la-possibilite-d-eliminer-les-hallucinations-des-LLM/

Tiens, un ordinateur portable avec un écran transparent pas pratique et illisible, comme dans les films de Science-Fiction !
EDIT : https://bouletcorp.com/rogatons/2023/01/12

C'est trop drôle, y'a décidément rien qui va avec les I.A.
Là on a un problème avec les générateurs d'images : On sait depuis toujours qu'ils sont biaisés. Si vous leur demandez l'image d'un médecin, ça sera presque tout le temps un homme, et blanc.

Donc les différentes entreprises qui font de l'I.A. essaient de corriger les différents biais (raciste, sexiste...) et forcer l'I.A. dans la diversité.
Sauf que quand vous demandez des images de Nazis, il vous sort des Nazies femmes, asiatiques, noirs...  c'est trop drôle : Quel que soit le problème avec les I.A., aucune correction ne donne quelque chose de correct ! 😄