Google poursuit le développement de ses outils de recherche basés sur l'IA malgré les erreurs et les critiques. La vice-présidente de la recherche, Liz Reid, souligne l'importance de prendre des risques calculés pour innover et améliorer les produits.
Ce qu'il faut retenir :
- Google continue de développer ses outils de recherche IA malgré les multiples erreurs détectées ;
- Liz Reid insiste sur l'importance de prendre des risques calculés et d'apprendre des erreurs ;
- Google a été fortement critiqué pour les réponses AI Overviews inexactes ou dangereuses ;
- Des efforts continus sont déployés pour améliorer la qualité et la précision des réponses générées par l'IA.
Prendre des risques calculés
Lors d'une réunion générale récente, Liz Reid, vice-présidente de la recherche chez Google, a affirmé que la société doit continuer à avancer sur ses innovations IA, même si cela implique de rencontrer des erreurs en chemin.
Elle a souligné que l'entreprise ne doit pas retarder le lancement de nouvelles fonctionnalités simplement par peur des problèmes potentiels. Reid a déclaré : “Il est important de ne pas freiner certaines fonctionnalités simplement parce qu'il peut y avoir des problèmes occasionnels, mais au fur et à mesure que nous les trouvons, nous les résolvons”.
Les problèmes rencontrés avec les AI Overviews
Cela fait un mois que les AI Overviews ont été lancés par Google, en remplacement de la SGE. La fonctionnalité permettant de fournir des résumés IA en haut des résultats de recherche. Mais depuis le 15 mai 2024, de nombreuses erreurs ont été mises en lumière par les internautes.
Certains utilisateurs ont signalé des réponses absurdes ou incorrectes, comme la fausse affirmation que Barack Obama était le premier président musulman des États-Unis ou des recommandations alimentaires dangereuses (manger au moins un caillou par jour…).
Google avait réagi en apportant des améliorations techniques aux AI Overviews et en limitant les contenus générés par les utilisateurs pour réduire ces erreurs. Désormais, l’affichage des AI Overviews est passé de 84 à seulement 15% des requêtes. Toutefois, l’équipe avait insisté sur le fait qu’il existait également des captures d’écran truquées.
Réactions internes et externes
La précipitation de Google à lancer des produits IA, notamment Gemini, a suscité des critiques tant internes qu'externes. Les employés et les actionnaires ont exprimé leur mécontentement face à ce qu'ils percevaient comme des lancements précipités et donc, mal préparés, générant des erreurs qui auraient certainement pu être évitées.
Sundar Pichai, le PDG de Google, a reconnu que certaines erreurs étaient "inacceptables", et a assuré que des mesures étaient prises pour rectifier les problèmes.
Stratégies d'amélioration continue
Liz Reid a expliqué que Google utilise des techniques de "red teaming" pour tester ses produits avant leur lancement. Cette méthode consiste à chercher délibérément des vulnérabilités afin de les corriger avant qu'elles ne soient exploitées par des utilisateurs malveillants.
Toutefois, Reid a admis que, malgré ces tests approfondis, des erreurs peuvent toujours survenir. “Peu importe combien de tests en "red teaming" nous faisons, nous devrons en faire encore plus”.
L'importance des feedbacks
Reid a insisté sur le rôle absolu des feedbacks des utilisateurs et des employés pour identifier et résoudre les problèmes. Elle a encouragé les employés à signaler tout problème, petit ou grand, afin d'améliorer continuellement les produits IA de Google. “Chaque fois que vous voyez des problèmes, qu'ils soient petits ou grands, veuillez les signaler”. Un lien interne a été fourni aux employés pour qu'ils puissent facilement rapporter les bugs et les problèmes rencontrés.
Source :
Articles complémentaires :
AI Overviews : les corrections de Google après des critiques virulentes
Trafic IA dans la Search Console : Google maintient les propriétaires de sites dans le flou
La SGE est lancée ! Google lance les aperçus IA aux Etats-Unis
