Le lancement de Chatgpt a explosé l’industrie de la recherche, et les dernières années ont vu de plus en plus d’intégration de l’IA dans les pages de résultats des moteurs de recherche.
Dans une tentative de suivre les LLM, Google a lancé des aperçus de l’IA et vient d’annoncer les onglets en mode AI.
L’attente est que les SERP seront mélangés avec une interface de modèle de langage large (LLM), et la nature de la façon dont les utilisateurs recherchent les conversations et les voyages.
Cependant, il existe un problème concernant les hallucinations AI et la désinformation dans les résultats de LLM et de Google AI générés, et il semble être largement ignoré, non seulement par Google mais aussi par les éditeurs de nouvelles qu’il affecte.
Plus inquiétant est que les utilisateurs ignorent ou sont prêts à accepter le coût de la désinformation pour des raisons de commodité.
Barry Adams est l’autorité sur le référencement éditorial et travaille avec les principaux titres de l’éditeur de nouvelles dans le monde via Polemic Digital. Barry a également fondé le Summit News & Editorial SEO avec John Shehata.
Je lis un post LinkedIn De Barry où il a dit:
«Les LLM sont incroyablement stupides. Il n’y a rien d’intelligent dans les LLM. Ce sont des prédicteurs de mots avancés, et les utiliser à quelque fin que ce soit qui nécessite une base dans des faits vérifiables – comme les requêtes de recherche – est fondamentalement faux.
Mais les gens ne semblent pas s’en soucier. Google ne semble pas s’en soucier. Et l’industrie technologique ne s’en soucie certainement pas, ils sont délibérément aveuglés par des signes d’un dollar.
Je ne pense pas que les médias plus larges signalent suffisamment les inexactitudes inhérentes aux LLM. Les éditeurs souhaitent dire que l’IA générative pourrait être une menace existentielle à publier sur le Web, mais ils ne parviennent pas à souligner régulièrement la plus grande faiblesse de Genai. »
Le message m’a incité à lui parler plus en détail des hallucinations LLM, de leur impact sur l’édition et de ce que l’industrie doit comprendre les limites de l’IA.
Vous pouvez regarder l’interview complète avec Barry sur IMHO ci-dessous, ou continuer à lire le résumé de l’article.
https://www.youtube.com/watch?v=aclyi_naf2e
Pourquoi les LLM sont-elles si mal à citer des sources?
J’ai demandé à Barry d’expliquer pourquoi les LLM ont du mal avec une attribution précise de la source et une fiabilité factuelle.
Barry a répondu: « C’est parce qu’ils ne savent rien. Il n’y a pas d’intelligence. Je pense que les appeler est la mauvaise étiquette. Ils ne sont pas intelligents en aucune façon. Ce sont des machines de probabilité. Ils n’ont pas de facultés de raisonnement telles que nous le comprenons. »
Il a expliqué que les LLM fonctionnent en régurgitant des réponses en fonction des données de formation, puis tentant de rationaliser leurs réponses grâce à des efforts de mise à la terre et de lier les citations.
Même avec une incitation minutieuse à utiliser uniquement des sources vérifiées, ces systèmes maintiennent une forte probabilité de références hallucinantes.
« Ce ne sont que des SMS prédictifs de votre téléphone, sur des stéroïdes, et ils ne feront que des trucs et vous le présenteront très en toute confiance parce que c’est exactement ce qu’ils font. C’est toute la nature de la technologie », a souligné Barry.
Cette présentation confiante d’informations potentiellement fausses représente un problème fondamental avec la façon dont ces systèmes sont déployés dans des scénarios auxquels ils ne sont pas adaptés.
Créons-nous une spirale d’IA de désinformation?
J’ai partagé avec Barry mes préoccupations concernant une spirale de désinformation de l’IA où le contenu d’IA fait de plus en plus référence à d’autres contenus d’IA, en perdant entièrement la source des faits et de la vérité.
Les perspectives de Barry étaient pessimistes: «Je ne pense pas que les gens se soucient autant de la vérité que nous le pensons peut-être.
«Les gens ne se soucient pas vraiment de la vérité. Ils se soucient de la commodité.»
Il a fait valoir que les 15 dernières années des médias sociaux ont prouvé que les gens privilégient la confirmation de leurs croyances sur la précision factuelle.
Les LLM facilitent encore plus ce processus que les médias sociaux en fournissant des réponses pratiques sans nécessiter une pensée critique ou une vérification.
« La véritable menace est la façon dont l’IA remplace la vérité par la commodité », a observé Barry, notant que l’adoption de Google de l’IA représente un pas clair de la refonte d’informations factuelles pour fournir ce que les utilisateurs veulent entendre.
Barry a averti que nous entrons dans une spirale où «des sociétés entières vivront dans des réalités parallèles et nous ridigerons de l’autre côté comme étant de fausses nouvelles et tout simplement pas réelles».
Pourquoi les médias grand public n’appellent-ils pas les limites de l’IA?
J’ai demandé à Barry pourquoi les médias grand public ne se sont pas plus exprimés sur les faiblesses de l’IA, d’autant plus que les éditeurs pourraient se sauver en influençant la perception du public des limitations de l’IA.
Barry a identifié plusieurs facteurs: « Google est une force si puissante dans la conduite du trafic et des revenus aux éditeurs que de nombreux éditeurs ont peur d’écrire de manière trop critique sur Google parce qu’ils estiment qu’il pourrait y avoir des répercussions. »
Il a également noté que de nombreux journalistes ne comprennent pas vraiment le fonctionnement des systèmes d’IA. Les journalistes technologiques qui comprennent les problèmes soulèvent parfois des questions, mais les journalistes généraux des grands journaux n’ont souvent pas les connaissances pour examiner correctement les réclamations d’IA.
Barry a souligné la promesse de Google que les aperçus de l’IA enverraient plus de trafic aux éditeurs à titre d’exemple: « Il s’avère que non, c’est exactement le contraire de ce qui se passe, que tout le monde avec deux cellules cérébrales a vu s’arrêter à un mile. »
Comment expliquer la réduction du trafic aux éditeurs de nouvelles?
J’ai noté des recherches qui montrent que les utilisateurs cliquent sur des sources pour vérifier les sorties d’IA, et que Google n’affiche pas des aperçus d’IA sur les nouvelles. Pourtant, le trafic vers les éditeurs de nouvelles continue de diminuer dans l’ensemble.
Barry a expliqué que cela implique plusieurs facteurs:
«Les gens cliquent sur des sources. Les gens vérifient les citations, mais pas dans la même mesure qu’avant. Chatgpt et Gemini vous donneront une réponse. Les gens cliqueront sur deux ou trois liens pour vérifier.
Auparavant, les utilisateurs effectuant leurs propres recherches cliqueraient sur 30 à 40 liens et les liraient en détail. Maintenant, ils pourraient vérifier les réponses de l’IA en quelques clics.
De plus, bien que les éditeurs de nouvelles soient moins affectés par les aperçus de l’IA, ils ont perdu du trafic sur le contenu expliqueur, les histoires de fond et les pièces d’analyse que l’IA gère désormais directement avec un clic minimal aux sources. »
Barry a souligné que Google diminuait le trafic des éditeurs depuis des années grâce à des mises à jour d’algorithmes et à des efforts pour maintenir plus longtemps les utilisateurs de l’écosystème de Google.
« Google est la passerelle d’information Monopoly sur le Web. Vous pouvez donc dire: » Oh, ne dépendez pas de Google « , mais vous devez être là où vos utilisateurs sont et vous ne pouvez pas avoir une entreprise de publication viable sans vous fier fortement sur le trafic de Google. »
Que devraient faire les éditeurs pour survivre?
J’ai demandé à Barry ses recommandations sur l’optimisation de l’inclusion LLM et comment survivre à l’introduction des résultats de recherche générés par l’IA.
Barry a conseillé aux éditeurs d’accepter que le trafic de recherche diminuera tout en se concentrant sur la création d’une identité de marque plus forte.
«Je pense que les éditeurs doivent être plus confiants sur ce qu’ils sont et en particulier ce qu’ils ne sont pas.»
Il a souligné le Financial Times comme un modèle exemplaire parce que «personne n’a aucun doute sur le Financial Times et sur le type de reportage qu’ils s’inscrivent».
Cette clarté permet une forte conversion d’abonnement car les lecteurs comprennent la valeur spécifique qu’ils reçoivent.
Barry a souligné l’importance de développer le pouvoir de la marque qui fait que les utilisateurs recherchent spécifiquement des publications particulières: «Je pense que trop d’éditeurs essaient d’être tout pour tout le monde et ne sont donc rien pour personne. Vous devez avoir une voix de marque forte.»
Il a utilisé l’exemple du Daily Mail qui réussit grâce à une identité de marque cohérente, les utilisateurs à la recherche spécifiquement de la marque avec des recherches d’actualité telles que «Meghan Markle Daily Mail» ou «Prince Harry Daily Mail».
L’objectif est de créer des relations directes qui contournent les intermédiaires via des applications, des newsletters et des visites directes sur le site Web.
L’identité de la marque impérative
Barry a souligné que les éditeurs couvrant des sujets similaires avec un contenu interchangeable sont confrontés à des menaces existentielles.
Il travaille avec des éditeurs où «ils rapportent tous les mêmes choses avec les mêmes captures d’écran et les mêmes photos et à peu près le même contenu.»
Ces publications deviennent vulnérables parce que les lecteurs ne perdent rien en substituant une source à une autre. Le succès nécessite de développer des propositions de valeur uniques qui font que les publics recherchent spécifiquement des publications particulières.
« Vous devez avoir une identité de marque très forte en tant qu’éditeur. Et si vous ne l’avez pas, vous n’existerai probablement pas dans les cinq à dix prochaines années », a conclu Barry.
Barry a conseillé aux éditeurs de nouvelles de se concentrer sur le développement de la marque, les modèles d’abonnement et la création d’écosystèmes de contenu qui ne comptent pas entièrement sur Google. Cela peut signifier moins de clics, mais un engagement plus significatif et de meilleure qualité.
Aller de l’avant
L’opinion de Barry et la réalité des changements forcés par l’IA sont des vérités difficiles.
L’industrie nécessite une reconnaissance honnête des limitations de l’IA, du renforcement de la marque stratégique et de l’acceptation que le trafic de recherche facile ne reviendra pas.
Les éditeurs ont deux options: continuer à chasser le trafic de recherche diminuant avec le même contenu que tout le monde produit, ou ils investissent dans des relations avec le public direct qui fournissent des fondements durables pour un journalisme de qualité.
Merci à Barry Adams d’avoir offert ses idées et d’être mon invité A mon humble avis.
Plus de ressources:
Image en vedette: Shelley Walsh / Search Engine Journal
Commentaires