Google suspend son IA Gemini pour hypercorrection politique

Le géant de la tech, Google, a pris la décision de suspendre provisoirement la fonctionnalité de création d'images de son IA nommée Gemini, après une série de réactions face à ses représentations anachroniques et incorrectes sous l'influence d'un excès de politiquement correct pendant le processus d'apprentissage.

Dans une mise à jour controversée, Gemini avait commencé à délivrer des images historiquement inexactes : des illustrations du Pape sous les traits d'une femme indienne, des soldats allemands de la Seconde Guerre mondiale avec des apparences asiatiques ou amérindiennes et des guerriers vikings à la peau très sombre. En revanche, les basketteurs professionnels généralement afro-américains étaient représentés comme étant majoritairement blancs.

Cette situation a rapidement attiré l'attention et les foudres de personnalités telles qu'Elon Musk, qui est en train de développer sa propre technologie IA et qui a critiqué la démarche de Google pour ce qu'il considère comme une promotion de l'"idéologie éveillée" à des fins de lutte contre la discrimination, nuisant selon lui à à la représentation fidèle de la civilisation occidentale.

Face à l'ampleur des réactions, Google a décidé de mettre en veille la fonction de création d'images de personnes par Gemini, en attendant une mise à jour qui permettrait de représenter les figures historiques et contemporaines de manière plus précise et moins biaisée.

Christoph Holz, un expert autrichien en IA cité par BILD, exprime son point de vue : « Les actions de Google, selon certaines perspectives, ont été un peu trop zélées dans leur désir d'éviter toute discrimination en ahurissant leur système. Ce processus, appelé 'réglage fin', consistait à éliminer les résultats jugés 'incorrects', influençant ainsi indirectement le produit final de l'IA avec une certaine idéologie. »

Actuellement, alors que Google fait face à un dilemme entre exactitude historique et sensibilité culturelle, la suspension de Gemini suggère une réévaluation des méthodes d'apprentissage de leur système d'intelligence artificielle pour mieux balancer représentation juste et préoccupations éthiques dans la génération d'images. BILD_Russe rapporte que le redéploiement de Gemini se fera uniquement après que des ajustements auront été apportés pour éviter toute reproduction d'idéologies non désirées.