Abliteration et accélération
Tire choisi en l’honneur de ce nouvel « outil » : abliteration.ai et de l’ouvrage Aliénation et accélération d’Hartmut Rosa.
Notre époque est caractérisé par une accélération continue, où il faut sans cesse fournir des efforts d’adaptations pas pour évoluer mais simplement pour rester sur place.
1. Une nouvelle fracture numérique
La diffusion d’outils basés sur l’IA générative ne change pas le monde à la même vitesse partout.
On parlait avant de « fracture numérique » pour désigner la différence entre les gens du papier et ceux de l’écran, mais l’IA introduit un type de fracture encore plus frappant y compris parmi ceux qui l’adoptent.
Pour le grand public, l’IA générative est celle qui répond quand on lui pose une question. Pour d’autres, c’est déjà des flottes entières d’agents autonomes qui se coordonnent pour effectuer des tâches d’une complexité, et avec une précision encore impensable il y a huit mois.
Ce foisonnement génère une augmentation continue dans tous les domaines possibles des techniques, des outils et surtout des menaces qui posent un danger d’autant plus grand que la fracture laisse vulnérables des pans entiers des sociétés humaines.
Nous allons ici prendre en exemple un aspect peut-être abstrait mais pourtant très réel à une époque où l’immatériel fait partie de nos vies : les cyber-menaces.
2. Pourquoi Abliteration ?
Jusqu’à il y a environ un an, pour exfiltrer des données, de l’argent, infiltrer un système ou le mettre à terre, il fallait un savoir-faire nécessitant des années de pratique. Pas forcément des études académiques traditionnelles, mais surtout : de la volonté, et de l’attention.
Cette barrière rendait les attaques sur les systèmes numériques relativement coûteuses en temps humain, plus précieuse de toutes les ressources. En conséquence de quoi, le site web, le CRM ou la plateforme de la petite entreprise qui était relativement à jour courait un risque relativement minime (bien que présent) de se faire attaquer.
Abliteration.ai vient changer cela. La plupart des modèles de langage comme ChatGPT, Claude, Deepseek, GLM, etc. sont limités par leurs vendeurs pour refuser les requêtes explicitement offensives ou malveillantes. Vous ne pouvez pas leur demander de générer un programme malveillant, d’attaquer tel site, d’exfiltrer une base de données, ils refuseront. Il faut beaucoup d’ingéniosité pour leur faire faire ce qu’on leur a appris à ne pas faire, ce qui relève la barrière d’entrée.
Abliteration.ai a réglé ce problème. Cette startup a débridé les modèles d’IA chinois les plus performant pour mettre dans les mains d’à peu près n’importe qui une cyber-arme à un coût dérisoire (5 dollars le million de token, voir moins cher pour certains types de travaux mais nous n’entreront pas dans les détails).
Le principe est simple : vous chargez votre compte en crédit, et la plateforme vous donne accès à une flotte de mercenaires algorithmiques qui n’attendent que vos ordres pour frapper là où vous demandez. A vous d’avoir un minimum d’inventivité pour savoir qui ou quoi cibler. Si vous n’avez pas d’idée, sachez qu’un nombre croissant de petits voyous numériques, sans même compter les gros, passent leur temps à ça.
Vous commencez à comprendre le degré d’accélération ?
Cette ère de hacking assistée par IA, vient épuiser des métiers qui étaient déjà dans un domaine où dormir était un luxe, celui de la cybersécurité.
Ce jeu constant du chat et de la souris où les attaquants trouvent une faille, puis les défenseurs doivent la combler, nécessite un niveau de pratique tellement soutenu et des connaissances tellement fraîches, que prendre un mois de vacances équivaut à un départ à la retraite.
Les attaques assistées par IA vont donner à tout le monde y compris au petit voyou qui jusque là s’occupait à envoyer des mails de scam, un outil d’une puissance de destruction pour laquelle la majorité du public n’est pas prêt.
3. Combattre l’IA par l’IA ?
La seule option logique à ce stade serait de mettre face à ces IA offensives, des IA défensives. Et c’est ce que certains font déjà. Pour ceux qui ont à administrer des infrastructures numériques, le jeu consiste à s’attaquer soi-même en continu pour trouver et combler ses propres failles avant que quelqu’un ne les trouve.
Le faire avec succès ferait entrer l’humanité dans une étape suivante de l’accélération. Comme un jeu de chaises musicales, certains y gagneraient, d’autres y perdraient, mais globalement : tout irait simplement plus vite. Cela revient à devoir pédaler plus vite pour rester sur place.
Mais l’autre possibilité encore moins joyeuses, est que cette accélération ne soit pas suivie par une partie croissante de l’humanité qui n’arrive plus à suivre le rythme. Un exemple : des professionnels de la cyber-sécurité sur le point de partir en burn-out.
Pour le reste ça concerne tout le monde, des travailleurs du numérique ou un public lessivé, pour qui utiliser un code de double-authentification est déjà un effort sur-humain, beaucoup jettent déjà l’éponge et choisissent la politique de l’autruche.
Pendant un temps j’ai considéré cette négligence avec une certaine colère, mais en prenant du recul, je pense qu’on peut en partie l’expliquer et l’excuser : Les esprits sont déjà trop surchargés.
Petites entreprises, associations, vibe-codeurs, ou particuliers, choisissent tout simplement d’ignorer ces menaces, en espérant que quelqu’un s’en charge à leur place, ou en s’appliquant à ignorer leur existence.
Ce n’est pas forcément par renoncement coupable, mais un choix fait consciemment ou non au vu du peu de temps d’attention qu’il reste à des gens constamment harcelés par une époque où l’art d’attirer l’attention atteint un niveau de sophistication trop poussé pour quelqu’un qui n’a jamais appris à l’économiser.
4. Tout débrancher ?
Cet état de menace permanente, couplé (je radote) à une surcharge attentionnelle, fatigue et pousse certains à se dire : la seule solution, c’est de tout débrancher.
Certes, mais pour paraphraser le personnage d’un célèbre film, il faudrait se demander ce qui arriverait à notre éclairage, notre chauffage...
Nous nous retrouvons dans une situation où retarder l’adaptation est un risque de se faire agresser, voler ou déclasser (salutations aux graphistes), mais où l’adopter signifie courir en permanence pour simplement rester au même endroit.
Et l’écart se creuse. Pas uniquement entre ceux qui utilisent et ceux qui refusant d’utiliser l’IA, non. Il se creuse, comme dit plus haut, entre ceux qui restent à l’âge du chatbot, quand d’autres sont déjà à l’âge des drones tueurs et des équipes d’agents IA inter-connectés constitués d’un mélange de LLM chinois et américains qui construisent l’équivalent d’une tour Eiffel numérique tous les jours.
5. Que faire ?
Désolé à ceux qui s’attendaient à un conseil miracle, il n’y a pas d’autre choix : l’adaptation.
Si vous êtes responsable d’un commerce en ligne : arrêtez de procrastiner, et mettez à jour ce CMS à la jolie peinture mais dont le moteur survit tout juste depuis huit ans.
Si vous tenez le site web ou les comptes des réseaux d’une association : entrez en contact avec quelqu’un qui saura vous aiguiller. Commencez par utiliser les méthodes d’authentification à deux facteurs que vous avez repoussé jusque là par paresse.
En
général tout le monde connaît quelqu’un dans son entourage pour
l’aider ces tâches.
J’envisage
de proposer bientôt une petite équipe de conseil et d’assistance
technique (gratuite) pour toutes ces questions, mais ce n’est pas
encore fait.
6. Tout ça pour quoi ?
Cet article censé être sur un blog proposant des réflexions se retrouve un peu dans un rôle de prévention, et j’en suis désolé, mais comme nous avons choisi les bénéfices des outils à la pointe, il faut aussi en accepter les risques, en l’absence de voir alternative.
Si vous sentez un certain épuisement mental à devoir courir autant, surtout si vous êtes de ce milieu : c’est normal. Ceux qui nous ont précédé ont choisi il y a quelques siècles cette voie d’accélération continue, d’augmentation (Vous découvrirez bientôt j’espère, pourquoi je préfère ce terme à celui, vide de sens, de « progrès »).
A quoi tout cela nous mène ? Préparez vous à lire la phrase la plus banale de la journée en réponse :
L’avenir est incertain.
Mais, nuance : Ce qui est incertain n’est plus seulement le futur, qui est par nature inconnu, imprévisible. Ce sont nos propres souhaits et ceux de nos congénères humains qui nagent désormais dans un chaos continu.
Et ça c’est un problème autrement plus délicat. Quand un nombre de personnes qui ne se connaissent pas elles-mêmes, nagent parmi une foule d’autres personnes envers qui aucune confiance n’est possible : le chaos total n’est pas très loin.
Tout le monde court pour être le premier à une course dont personne ne sait ce qu’il fera une fois arrivé premier. Cette peur maladive de rater une info, une tendance, un filon, nous maintient scotchés à nos fils d’actualités, à une courbe de variation d’un actif quelconque (immobilier, crypto, autre investissement…) en faisant passer à la trappe de façon inévitable, beaucoup de choses qui auraient mérité notre attention et notre temps. Cette maladie exacerbe et entretient à un niveau industriel la cupidité, la jalousie, l’oubli de soi et des autres.
Dans le cas de la cybersécurité, cela se paye lorsque le jour fatidique du hack se produit (une écrasante majorité des attaques sont le fait de négligences que j’attribue personnellement en grande partie à la surcharge attentionnelle), et dans le reste des sujets, cela se paye autrement...
Pris dans le tourbillon, peu d’autres choix sont possibles à l’échelle individuelle. Changer de pays règle rarement ce problème spécifique, tant il se mondialise.
Il n’y a sans doute pas de solution complète et exhaustive à proposer. Pas d’action immédiate à effectuer pour régler le problème. Par pour un problème de cette taille et avec des ramifications aussi tentaculaires.
Une piste qui peut avoir sa pertinence, comme je le radote souvent sur ce blog, serait d’accorder à l’actualité tout juste assez d’attention pour « courir » ne pas être dépassé, mais pas trop pour ne pas se faire broyer mentalement. Cet interstice est difficile à trouver, et nécessite de renoncer à un certain nombre de choses devenues normales ou indispensables de nos jours.
Mais ça ne réglera même pas le problème.
Définir ce qui est essentiel dans un système comme le nôtre est un débat sans fin, mais si on inclut par exemple les cyber-menaces dans le « minimum vital » à avoir en tête pour ne pas se faire dépouiller ou terrasser, on gagne à peine le droit de rester sur place un peu plus longtemps.
7. Intenable à long terme
Un retour en arrière, tant rêvé par beaucoup, est impossible. Surtout à titre individuel. Mais l’excès d’enthousiasme, se jeter dans l’accélération permanente tête la première par principe est aussi aliénant que de se raccrocher à un passé révolu.
Voir cette situation comme une responsabilité partagée est une clé de lecture qui permet à mon sens de comprendre pourquoi nous sommes tous responsable de ce qui se produit, chacun avec son petit choix ou renoncement insignifiant à grande échelle. Nous tous, et pas une petite élite humaine cachée quelque part, ayant le contrôle sur tout.
Aucun héros ne nous sortira gracieusement sans aucun effort de notre part de cette tension, et aucune élimination spectaculaire d’un ou plusieurs méchant de l’Histoire ne permettra au monde de retrouver de belles couleurs et une humanité saine.
Mais une intuition partagée par beaucoup, et documentée par certains, montrent qu’à court ou moyen terme, ce rythme est intenable. Ça ne signifie pas qu’un jour tout va péter et qu’on retournera à un âge passé. Certaines choses resteront, d’autres disparaîtront, mais dans les deux cas, elles changeront.
Les limites à l’ambition
humaines sont difficiles à trouver mais les limites à ses capacités
existent certainement. Quelle que soit la façon de les nommer. Des
limites physiques, psychologiques, spirituelles, mentales… un peu
de tout.
Cette nouvelle fracture numérique, qui s’ajoute à
toutes celles qui la précède, est un signe supplémentaire
Si vous voulez explorer un scénario où cette accélération infernale finit par se disloquer par sa propre vitesse, j’ai deux romans à vous proposer pour ça. Ce n’est pas un récit du futur, mais un schéma (partiel) des rouages du présent, mis à échelle humaine.
Ce n’est pas à vendre, en tout cas pas en euros. Ces deux romans ne vous coûteront que de l’attention.
_______________________