Lorsque la tragédie secoue le monde, des millions de personnes se tournent vers Google à la recherche de réponses. Cependant, à cette occasion, l'intelligence artificielle du moteur de recherche le plus utilisé de la planète est devenue, ironiquement, une source de désinformation. La nouvelle fonction Aperçu de l'IAconçu pour offrir des résumés rapides et précis, confondu le modèle d'avion impliqué dans l'accident fatidique du vol d'Ai171 d'Air India, qui a coûté la vie à plus de 260 personnes.
L'incident, qui s'est produit jeudi dernier en Inde, a impliqué un Boeing 787-8 Dreamliner, ont confirmé les autorités. Cependant, en tapant les termes des moteurs de recherche liés à l'événement, certains utilisateurs ont rencontré des réponses dans lesquelles l'intelligence artificielle (IA) a assuré, avec l'équilibre, que l'appareil accidenté était un Airbus A330. Et à d'autres occasions, le résumé a généré des deux modèles comme s'il était impossible hybride.
Ces types d'échecs dans les systèmes d'IA génératifs sont connus sous le nom de « hallucinations», Terme qui fait référence à la création d'informations erronées présentées avec une certaine certitude.
La cause de cette confusion, explique les experts cités par Arstechnicail se pourrait que de nombreux articles publiés par la presse sur l'accident aient mentionné Airbus en tant que concurrent Boeing, qui aurait désorienté l'algorithme lorsqu'il tentait de condenser le contenu.
Dans cette recherche, l'IA de Google dit que l'accident impliquait un Airbus A330 au lieu d'un Boeing 787. Source: / U / Stuckintrafic via Arstechnica
Google, quant à lui, a réagi manuellement en retirant la réponse erronée et en se rappelant que leurs outils d'IA ont un avis à la fin de chaque résumé: « Les réponses de l'IA peuvent contenir des erreurs ». Un rejet de responsabilité qui, cependant, passe inaperçu pour de nombreux utilisateurs, confiant dans la fiabilité d'un système qui est présenté avec un ton sûr et énergique.
La société Mountain View garantit qu'elle utilise des cas comme celui-ci pour améliorer ses algorithmes et que le niveau de précision des aperçus de l'IA est comparable à celui d'autres fonctions telles que les fragments proéminents.
Google a informé Arstechnica que a éliminé manuellement cette réponse D'après les aperçus de l'IA: « Comme pour toutes les fonctions de recherche, nous mettons en œuvre des améliorations rigoureuses et utilisons des exemples comme celui-ci pour mettre à jour nos systèmes. Cette réponse n'est plus montrée. Nous maintenons un niveau de qualité élevée dans toutes les fonctions de recherche, et la précision des vues générales de l'IA est comparable à celle d'autres fonctions telles que les fragments proéminents. »
Cependant, l'incident rouvre le débat sur dans quelle mesure il est pratique de déléguer la recherche de données sensibles aux systèmes automatiques qui, bien que avancés, ne sont pas exempts de défaillances.
Pendant ce temps, Airbus – qui n'avait rien à voir avec l'accident – pourrait voir avec inquiétude comment son nom est involontairement lié à une tragédie.
Pour sa part, Boeing, qui traverse une crise de réputation pour d'autres incidents récents, fait face à une situation inattendue: une confusion qui, au moins un instant, a détourné l'attention.
Savez-vous que vous pouvez être à jour avec le meilleur contenu Hosteltur directement sur votre téléphone?
Suivez-nous sur nos canaux WhatsApp et Telegramoù nous envoyons chaque jour une sélection de nos meilleures histoires et de nos nouvelles de dernière minute.
★★★★★
