Google a annoncé la suspension temporaire de la capacité de son IA Gemini à générer des images de personnes réalistes. Cette décision fait suite aux critiques concernant la création par Gemini d’images trompeuses dans des contextes historiques.
Lancement mouvementé pour Gemini, l’IA de Google génératrice d’images
Le 8 février, Google a lancé son chatbot Gemini doté d’un puissant modèle linguistique pour concurrencer ChatGPT d’OpenAI soutenu par Microsoft.
Today, we’re entering the next chapter of our Gemini era by bringing our #GeminiAI models to more of our products, starting with Bard — which will now be called Gemini. https://t.co/KFRp1qkfHg pic.twitter.com/WKHZyv3Ejp
— Google (@Google) February 8, 2024
Gemini intègre un générateur d’images similaire à DALL-E.
Cependant, peu après le lancement, des utilisateurs ont relevé des inexactitudes historiques dans les images de personnages générées par Gemini. Par exemple, des femmes noires représentées comme sénatrices américaines au 19ᵉ siècle ou des soldats noirs en uniformes allemands durant la Seconde Guerre mondiale.
Suite à ces controverses, le patron de Tesla Elon Musk a vertement critiqué Gemini, qualifiant l’IA de “woke” et de “raciste“.
Dans un long message d’excuses publié sur X.com (ex-Twitter), la firme de Mountain View indique travailler d’arrache-pied pour résoudre ces problèmes éthiques avant de remettre en ligne une version améliorée de Gemini.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
Ce lancement mouvementé illustre les défis rencontrés par les IA génératrices d’images pour représenter correctement des contextes historiques complexes. Google devra peaufiner Gemini pour éviter de futures polémiques.
Cette suspension a divisé la communauté de l’IA. Certains experts saluent une décision responsable tandis que d’autres dénoncent une atteinte à la liberté d’expression.
Les fans de Gemini (récemment Google Bard) réclament un retour rapide de l’option, arguant de l’intérêt pour la créativité.
La suspension du générateur d’image IA Gemini de Google ravive le débat sur l’éthique de l’IA
La mise en pause de la génération d’images de personnes par l’IA Gemini de Google soulève d’importantes questions éthiques sur l’avenir de ces technologies.
Le mot “éthique” résume donc le principal enjeu soulevé par cet incident autour de Gemini. À savoir la nécessité d’encadrer le développement de l’IA de manière éthique pour éviter les dérives et les contenus préjudiciables.
Comment donc trouver un équilibre entre liberté d’expression et prévention de contenus préjudiciables ?
Plusieurs pistes existent pour relever ce défi. Le développement de filtres plus performants est crucial pour bloquer les contenus haineux. L’établissement de règles d’utilisation éthique encadrant ces IA génératrices est aussi indispensable.
Le récent Forum mondial sur l’éthique de l’IA en Slovénie a mis l’accent sur l’importance de garantir que les avancées de l’IA profitent à tous de manière équitable et non discriminatoire.
L’incident de Google Gemini AI rappelle que malgré leur formidable potentiel, ces technologies soulèvent des enjeux éthiques complexes. Les acteurs de l’IA comme Google ont la responsabilité de les développer de manière responsable dans l’intérêt de tous.
Google a reconnu que certaines images générées étaient effectivement trompeuses et a promis de travailler à l’amélioration du système avant de réactiver la fonctionnalité.
L’entreprise semble déterminée à rectifier le tir pour éviter que Gemini ne propage des contenus préjudiciables, au risque de froisser ses aficionados.
Toutefois, en ce qui concerne le retour de la fonction génération d’image de son IA Gemini, Google pas donné de délai précis.
