(Article payant)

Chaque jour, près de 20 000 nouveaux morceaux créés par des outils comme Suno sont mis en ligne, selon les chiffres de la plateforme Deezer. Une masse qui pourrait finir par noyer le reste de la production.

Mais comment on peut découvrir de vrais, nouveaux, et jeunes artistes quand tu as autant de nouveaux titres qui sortent par jour ? Et ça, c’est juste avec cet outil, et je dirais "détectés tels quels" par la plateforme.

Tout ça par des personnes qui prétendent "expérimenter" … ben qu’ils expérimentent dans leurs ordis, ou mettent bien clair que c’est de l’IA, bande de connards !

Pareil dans le monde du jeu vidéo où rien que sur la plateforme Steam, plus de 10 jeux sortent par jour ; que ce soient des jeux incomplets en Early Access (dans les cas où la précommande ne suffisait pas pour pigeonner) ou incomplets tout courts, ou des PoC, des plagiats, voire carrément des jeux copiés depuis d’autres plateformes comme itch.io.

On arrive vraiment à un stage de production démesurée, et l’IA empire pour une qualité encore plus réduite, et toujours pour enrichir une très peu nombreuse minorité

Une utilisation de l’IA que je supporte et promeuve ; elle permet d’éviter l’interventions d’humains et ainsi de protéger la vie privée si elle reste toutefois bien confinée.

Liste (en anglais) de "contre-mesures" pour l’empoisonnement d’IA qui abusent de votre contenu et qui ne respectent pas les protections mises en place.

Copie du post avec ses liens :

ASRG
@asrg@tldr.nettime.org

Sabot in the Age of AI

Here is a curated list of strategies, offensive methods, and tactics for (algorithmic) sabotage, disruption, and deliberate poisoning.

🔻 iocaine
The deadliest AI poison—iocaine generates garbage rather than slowing crawlers.
🔗 https://git.madhouse-project.org/algernon/iocaine

🔻 Nepenthes
A tarpit designed to catch web crawlers, especially those scraping for LLMs. It devours anything that gets too close. @aaron
🔗 https://zadzmo.org/code/nepenthes/

🔻 Quixotic
Feeds fake content to bots and robots.txt-ignoring #LLM scrapers. @marcusb
🔗 https://marcusb.org/hacks/quixotic.html

🔻 Poison the WeLLMs
A reverse-proxy that serves diassociated-press style reimaginings of your upstream pages, poisoning any LLMs that scrape your content. @mike
🔗 https://codeberg.org/MikeCoats/poison-the-wellms

🔻 Django-llm-poison
A django app that poisons content when served to #AI bots. @Fingel
🔗 https://github.com/Fingel/django-llm-poison

🔻 KonterfAI
A model poisoner that generates nonsense content to degenerate LLMs.
🔗 https://codeberg.org/konterfai/konterf

EDIT : en français : https://next.ink/157400/ia-generative-la-course-au-plus-gros-modele-commence-a-montrer-ses-limites/

De ce que j’ai compris, en TL;DR: le scaling dans l’amélioration des performances des LLM a atteint une limite.

Ça ne veut pas dire que les LLM vont disparaître, non, mais elles seront moins rentable, comme l’indique l’article.
Ce qui aura pour conséquence directe de faire éclater cette bulle spéculative ; quels seront les impacts directs pour nous en bout, je n’en ai aucune idée.

Personnellement, j’aimerais que ça permette de réduire cette course à l’« armement », cette course à l’équipement en composant informatique et en production énergétique, et ainsi réduire la consommation démesurée de ces outils. (oui, je sais, je rêve tout éveillé)
Peut-être cela permettra aussi de réduire cette utilisation sur-abondante qui a aussi beaucoup servi dans la désinformation.

En résumé, je pense que cela aura de nombreux impacts — de façon non exhaustive — sur l’économie, l’énergie, la construction (je pense aux centres de données et aux centrales pour les alimenter, en plus des réseaux pour les relier), les emplois et l’écologie, et donc l’investissement.
Mais si tout cela était basé sur de fausses promesses, autant que ça se termine le plus tôt possible.

Idée intéressante, pour « devenir le cerveau derrière les yeux d’un robot ».

Le titre n’est pas vraiment correct toutefois, il s’agit plus d’approximations, de légères modifications ou bruits, que d’erreurs.
Mais on va dire que c’est déjà le travail de nombreux développeurs. :-þ