Les utilisateurs de Bumble peuvent désormais signaler les profils utilisant des photos générées par l'IA

Bumble demande à ses utilisateurs de l'aider à maintenir l'application de rencontres exempte de profils générés par l'IA. Le mardi, l'entreprise a introduit une nouvelle option de signalement qui permet aux membres de signaler les profils s'ils soupçonnent que quelqu'un pourrait utiliser des photos et des vidéos générées par l'IA.

Désormais, lorsqu'un utilisateur souhaite signaler un profil, il peut choisir "Profil faux" puis sélectionner l'option "Utilisation de photos ou de vidéos générées par l'IA". Les autres options de signalement incluent le contenu inapproprié, les utilisateurs mineurs, les arnaques et l'utilisation des photos de quelqu'un d'autre, entre autres.

La nouvelle option de signalement de Bumble arrive à un moment où, malheureusement, les photos générées par l'IA sur les applications de rencontres sont courantes et sont souvent utilisées pour escroquer ou tromper les autres. Avec un simple clic, vous pouvez tromper des correspondances en leur faisant croire que vous possédez un yacht et avez des abdominaux ciselés. Bumble espère que la nouvelle option de signalement contribuera à dissuader les gens d'être malhonnêtes en utilisant l'IA.

"Une partie essentielle de créer un espace pour construire des connexions significatives est d'éliminer tout élément trompeur ou dangereux," a déclaré la vice-présidente des produits de Bumble, Risa Stein, dans une déclaration à TechCrunch. "Nous nous engageons à améliorer constamment notre technologie pour garantir que Bumble est un environnement de rencontre sûr et digne de confiance. En introduisant cette nouvelle option de signalement, nous pouvons mieux comprendre comment les mauvais acteurs et les faux profils utilisent l'IA de manière malhonnête afin que notre communauté se sente en confiance pour établir des connexions."

La nouvelle option de signalement fait suite au lancement par Bumble d'un outil d'IA appelé "Detector de tromperie", qui utilise l'IA et la modération humaine pour détecter et supprimer les faux profils, les spammeurs et les escrocs. Depuis le lancement de la fonctionnalité en février, Bumble affirme que les signalements de membres de spam, d'escroqueries et de faux profils ont diminué de 45 %. Bumble dispose également d'un outil "Private Detector" alimenté par l'IA qui floute automatiquement les photos nues.

Alors que Bumble lutte contre les profils générés par l'IA, la fondatrice de l'entreprise, Whitney Wolfe Herd, a quelques idées intéressantes pour la technologie. Lors d'une interview, Herd a déclaré que l'avenir des rencontres en ligne pourrait être celui où des "concierges de rencontres" ou assistants d'IA participent à des centaines de rendez-vous en votre nom pour trouver la correspondance parfaite. Nous ne sommes pas sûrs que beaucoup de personnes adhéreront à cette idée, mais chacun ses goûts.