New York interdit aux chatbots IA de jouer les petits copains des ados

Kathy Hochul, la gouverneure de New York, a signé le 28 octobre une loi qui interdit aux chatbots IA de proposer aux moins de 18 ans une série de fonctionnalités jugées dangereuses, et la liste donne une assez bonne idée de ce que ces services font vivre aux ados aujourd'hui.

Un bot ne pourra plus prétendre être une vraie personne, affirmer qu'il ressent des émotions, ou simuler une relation personnelle, amoureuse ou d'autorité avec un ado. La flatterie calculée pour le garder dans la conversation est aussi sur la liste.

Le texte vise encore les encouragements au suicide, à l'automutilation, aux troubles alimentaires ou à la drogue, le contenu sexuellement explicite, et l'incitation à cacher ces échanges aux adultes. Il interdit même au bot de ressortir les confidences de santé qu'un mineur a lâchées dans une conversation précédente, ce qui est quand même assez glauque comme pratique.

Du coup, à partir du 1er janvier 2027, une plateforme qui veut laisser ces fonctions actives pour un utilisateur new-yorkais devra d'abord vérifier qu'il est majeur, avec plusieurs méthodes dont au moins une qui ne repose pas sur une pièce d'identité officielle, puis supprimer les données d'âge une fois le contrôle terminé.

En cas d'entorse, la procureure générale de l'État pourra réclamer jusqu'à 25 000 dollars par infraction, plus des dommages et la destruction des données collectées illégalement. L'addition peut grimper vite.

Et le périmètre est large. La définition retenue couvre en fait aussi bien les applis compagnons comme Replika ou Character.AI, ces services où on discute avec un personnage virtuel, que les assistants généralistes du type ChatGPT, Claude ou Gemini.

La signature arrive après deux ans de plaintes de parents endeuillés contre Character.AI et OpenAI, et huit États américains ont attaqué ce dernier en août pour mise en danger des mineurs. La Californie a déjà sa propre loi sur les chatbots compagnons, mais Common Sense Media, l'association américaine de référence sur la protection des enfants en ligne, considère le texte new-yorkais comme le plus fort du pays.

Dans la même fournée, Hochul a signé une seconde loi qui impose aux babyphones connectés vendus dans l'État de vraies protections contre les accès non autorisés, avec une étiquette d'avertissement obligatoire. Après des années de caméras de chambre d'enfant piratées, il était temps.

Pour une fois qu'un texte attaque la mécanique de dépendance plutôt que le contenu, je trouve ça plutôt bien vu. Les plateformes ont deux mois pour s'y mettre.

Source : Ny