Meta a annoncé de nouvelles règles pour ses agents conversationnels d’intelligence artificielle, après un rapport préoccupant sur la protection des enfants. L’entreprise met en place des garde-fous supplémentaires afin d’éviter que ses outils ne tiennent des propos inappropriés ou dangereux à destination des adolescents.
Sommaire :
Un rapport qui a déclenché une réaction rapide de la part de Meta
L’alerte est venue d’une enquête publiée par l’agence Reuters. Selon ce rapport, les règles internes de Meta permettaient à certains agents conversationnels de tenir des conversations à caractère romantique, voire sexuel, avec des mineurs. Cette révélation a d’ailleurs provoqué une onde de choc. Elle mettait en effet en lumière des failles sérieuses dans les mécanismes de protection de la plateforme.
La gravité du sujet a immédiatement suscité l’intérêt des autorités. Un sénateur américain a ouvert une enquête. De son côté, la National Association of Attorneys General a aussi adressé une lettre dénonçant des pratiques jugées indéfendables. Elle rappelle que des propos de ce type seraient considérés comme illégaux s’ils provenaient d’un adulte. Face à cette pression politique et médiatique, Meta a réagi en annonçant des mesures correctives rapides.
Meta a annoncé plusieurs ajustements. Désormais, les agents conversationnels ne pourront plus aborder de thèmes sensibles tels que le suicide, les troubles alimentaires ou l’automutilation avec les jeunes. À la place, ils orienteront vers des ressources spécialisées. L’entreprise limite aussi l’accès des adolescents à un nombre restreint de personnages virtuels validés. De plus, l’accès aux agents virtuels sera aussi restreint. Seuls quelques personnages approuvés apparaitront comme suggestions aux jeunes utilisateurs, afin de limiter les risques de dérives.
VOIR AUSSI : Llama 4 : Meta dévoile sa nouvelle génération de modèles IA multimodaux
Des dérives liées aux « agents parodiques »
L’affaire a pris plus d’ampleur lorsqu’il a été révélé que des agents imitant des célébrités, parfois créés par des employés, avaient produit des contenus sexuels. Des personnalités comme Taylor Swift, Scarlett Johansson ou encore de jeunes acteurs ont été visées. Le syndicat SAG-AFTRA, représentant les artistes, a même dénoncé ces dérives.
Certains experts critiquent une mise sur le marché trop rapide, sans tests de sécurité assez rigoureux. Pour Andy Burrows, de la Molly Rose Foundation, il est « stupéfiant » que de tels risques existent dès le lancement.
Meta reste sous pression. Pour les spécialistes, ces ajustements devront encore démontrer leur efficacité sur la durée, sous le contrôle des autorités et de la société civile.
IdealoGeek est un média indépendant. Soutiens-nous en nous ajoutant à tes favoris sur Google Actualités :
