Les aperçus de Google AI sont là pour rester avec des améliorations – La mise à jour Ray AIO
Liz Reid, responsable de la recherche chez Google, a écrit hier soir un article de blog intitulé « Aperçus de l'IA : à propos de la semaine dernière ». Elle a essentiellement déclaré que dans l’ensemble, la grande majorité des aperçus de l’IA sont vraiment bons et qu’ils ont trouvé des exemples de domaines dans lesquels ils peuvent apporter des améliorations. Mais les aperçus de l’IA sont là pour rester et Google continuera à les afficher dans la recherche Google.
Comme vous vous en souvenez, Google a lancé AI Overviews il y a quelques semaines aux États-Unis. Puis, au fil du temps, beaucoup ont commencé à voir et à partager des exemples étranges et embarrassants (parfois dangereux) de présentations d'IA, ce qui a conduit Google à mettre à jour sa documentation d'aide et le PDG de Google à se mettre sur la défensive.
Elle a déclaré : « Nous avons constaté une violation de la politique de contenu sur moins d'une requête unique sur 7 millions sur laquelle des aperçus d'IA sont apparus. » « Nous continuerons à améliorer le moment et la manière dont nous affichons les aperçus de l'IA et à renforcer nos protections, y compris pour les cas extrêmes, et nous sommes très reconnaissants pour les commentaires continus », a-t-elle ajouté.
Certains appellent les améliorations, les mises à jour apportées à ces aperçus de l'IA, la mise à jour Ray. Mike King a suggéré le nom sur X, en disant: « Je vais nommer la première mise à jour d'algorithme de l'ère AIO. Nous allons appeler celle-ci le « Ray Filter » ou la « Ray update » nommée d'après Lily Ray. » Lily a joué un rôle déterminant en poussant Google à travailler plus dur sur ces aperçus de l'IA en partageant d'innombrables exemples d'erreurs.
Voici quelques puces sur ce que Liz Reid a dit, je vais un peu plus loin sur Search Engine Land et il y a plus de couverture sur Techmeme. Je dois noter que c'est ce qu'elle a dit, pas ce que je dis :
- Les chercheurs aiment les aperçus de l'IA et interagissent davantage avec eux ainsi qu'avec les éditeurs qui y sont référencés.
- Les aperçus IA fonctionnent très différemment des chatbots et autres produits LLM
- Les aperçus AI sont intégrés dans la recherche principale et affichent uniquement les informations sauvegardées par les meilleurs résultats Web.
- Les aperçus de l'IA n'hallucinent généralement pas et n'inventent pas les choses de la même manière que d'autres produits LLM pourraient le faire.
- Lorsque les aperçus de l'IA se trompent, c'est généralement pour d'autres raisons : une mauvaise interprétation des requêtes, une mauvaise interprétation d'une nuance de langage sur le Web ou le manque de nombreuses informations utiles disponibles.
- Le taux de précision des aperçus d’IA est aussi bon que celui des extraits en vedette
- Google a déclaré avoir « vu de nouvelles recherches absurdes, apparemment destinées à produire des résultats erronés ».
- Un grand nombre de fausses captures d'écran ont été largement partagées.
- « Mais des aperçus de l'IA étranges, inexacts ou inutiles sont certainement apparus », a admis Google.
- Il peut y avoir des « vides de données » et des « lacunes d'informations » là où Google peut citer des pages qu'il ne devrait pas, comme des documents satiriques (comme dans le cas de « Combien de pierres dois-je manger ? »
- Dans certains cas, Google a déclaré que les aperçus de l'IA interprétaient mal le langage des pages Web et présentaient des informations inexactes.
Alors maintenant, que va faire Google pour améliorer les aperçus de l’IA ?
- Google ne corrigera pas individuellement chaque problème, il mettra à jour ses modèles pour améliorer ce qui n'a pas fonctionné afin que cela fonctionne également pour d'autres requêtes.
- Google a construit de meilleurs mécanismes de détection pour les requêtes absurdes qui ne devraient pas afficher un aperçu de l'IA, et a limité l'inclusion de contenu satirique et humoristique.
- Google a mis à jour ses systèmes pour limiter l'utilisation de contenu généré par les utilisateurs dans les réponses susceptibles de donner des conseils trompeurs.
- Google a ajouté des restrictions de déclenchement pour les requêtes pour lesquelles les aperçus de l'IA ne s'avéraient pas aussi utiles.
- Pour des sujets tels que l’actualité et la santé, Google a déclaré avoir déjà mis en place de solides garde-fous. Par exemple, Google a déclaré qu'il avait pour objectif de ne pas afficher d'aperçus de l'IA pour les sujets d'actualité difficiles, où la fraîcheur et la réalité sont importantes.
- Dans le cas de la santé, Google a déclaré avoir lancé des améliorations de déclenchement supplémentaires pour améliorer nos protections de qualité.
Voici quelques articles sur X à ce sujet :
Eh bien, Google a finalement répondu au drame AI Overview de la semaine dernière.
La réponse est logique, mais certaines des choses mentionnées m'ont un peu surpris, comme cette partie :
« Parce que la précision est primordiale dans la recherche, les aperçus de l'IA sont conçus pour afficher uniquement les informations sauvegardées par…
-Lily Ray 😏 (@lilyraynyc) 31 mai 2024
(enfin) Google partage une mise à jour sur les aperçus de l'IA 😃
🧵
Quelques réflexions dans le fil de discussion en lisant cet articlehttps://t.co/VXqJHhXWjD pic.twitter.com/DtWpdMTsU3– Gagan Ghotra (@gaganghotra_) 31 mai 2024
« Dans le cas de la santé, Google a déclaré avoir lancé des améliorations de déclenchement supplémentaires pour améliorer nos protections de qualité. » https://t.co/thYAzJab2Y
–Glenn Gabe (@glenngabe) 31 mai 2024
Dump d'actualités technologiques : Google reconnaît les incidents liés aux aperçus de l'IA, mais double la mise en affirmant que la plupart des requêtes préoccupantes étaient soit fausses, soit absurdes
Enterré dans le message : il a amélioré la détection du contenu satirique et limite l'utilisation du contenu généré par l'utilisateur https://t.co/8TtojYq6zN
– Jennifer E. (@jenn_elias) 31 mai 2024
Selon le brevet, dans certains cas, le LLM génère des réponses basées sur ses données de formation. Dans certains cas, après avoir créé la réponse, il recherche des sources pour vérifier, dans d'autres cas, ce n'est pas le cas.
– Rich Sanger SEO 🦙 (@richsangerSEO) 31 mai 2024
Je vais nommer la première mise à jour d'algorithme de l'ère AIO. Nous allons appeler celui-ci le « Ray Filter » ou la « Ray update » du nom @lilyraynyc.@rustybrick tu es à bord ? pic.twitter.com/7U9KMLij09
– Roi du micro (@iPullRank) 31 mai 2024
Discussion sur le forum sur WebmasterWorld.
