L’éthique au cœur du compagnon IA : le parcours de Camille Rousseau, psychologue et conceptrice d’assistants empathiques

Le contexte : IA et bien‑être

Depuis quelques années, les compagnons IA s’invitent dans les routines quotidiennes – rappel de rendez‑vous, suivi d’activité, ou même dialogue thérapeutique. Cette popularité soulève cependant des questions de fond : comment garantir que ces outils restent des alliés bienveillants et ne deviennent pas des sources de dépendance ou de désinformation ? Le débat s’articule autour de la transparence des algorithmes, du respect de la vie privée et de la capacité des modèles à reconnaître leurs limites.

Le parcours de Camille Rousseau

Psychologue diplômée de l’Université de Bordeaux, Camille Rousseau a d’abord travaillé en cabinet privé, où elle a constaté que de nombreux patients recherchaient des solutions numériques pour gérer le stress entre les séances. En 2021, elle a rejoint une start‑up spécialisée en IA afin de développer un prototype d’assistant conversationnel destiné aux personnes en quête d’accompagnement émotionnel. Son rôle a rapidement évolué : elle est devenue la « responsable de l’éthique produit », chargée de définir les lignes directrices qui guideront le comportement du compagnon IA.

Les principes éthiques qu’elle intègre

1. Transparence – L’assistant indique clairement qu’il s’agit d’une IA et explique, en termes simples, le type de données qu’il collecte.
2. Consentement explicite – Avant toute collecte de données sensibles, l’utilisateur doit donner son accord via une interface claire et reversible.
3. Limites de compétence – Le compagnon reconnaît lorsqu’une demande dépasse ses capacités (par exemple, un conseil juridique) et oriente l’utilisateur vers un professionnel humain.
4. Respect de la dignité – Les réponses sont formulées sans jugement, en évitant les stéréotypes de genre, d’âge ou de culture.
5. Réversibilité – L’utilisateur peut, à tout moment, demander la suppression de ses données et le désengagement du service.

Ces principes sont intégrés dès la phase de conception, ce qui évite de devoir « retro‑engineer » des solutions après le déploiement.

Un exemple de prompt responsable

Voici un petit extrait de code Python illustrant la façon dont le système filtre une requête avant de générer une réponse :

def process_user_input(user_input: str) -> str:
    """Filtre le texte de l'utilisateur et renvoie une réponse adaptée.
    - Si le texte contient des mots clés liés à des urgences (ex. suicidaire),
      le système déclenche l'alerte et propose les contacts d'aide.
    - Sinon, il vérifie le niveau de confiance du modèle avant de répondre.
    """
    emergency_keywords = {"suicide", "auto‑destruction", "se sentir inutile"}
    if any(word in user_input.lower() for word in emergency_keywords):
        return ("Je suis désolé·e que vous ressentiez cela. "
                "Il est important de parler à un professionnel immédiatement. "
                "Voici le numéro d’urgence le plus proche : 311.")
    # Si aucune urgence détectée, on utilise le modèle avec un seuil de confiance
    response, confidence = generate_response(user_input)
    if confidence < 0.7:
        return "Je ne suis pas sûr·e de la meilleure réponse. Vous pourriez consulter un spécialiste."
    return response

Ce fragment montre comment la logique métier peut être séparée du moteur de génération, afin de garantir que les réponses restent dans le cadre éthique défini par Camille.

Le regard sur l’avenir

Camille Rousseau estime que la prochaine étape pour les compagnons IA réside dans la co‑construction avec les utilisateurs : des ateliers participatifs où les besoins, les craintes et les attentes sont recueillis avant chaque mise à jour majeure. Elle préconise également une certification indépendante, à la manière des labels énergétiques, pour attester du respect des principes éthiques. En combinant expertise psychologique, rigueur technique et dialogue permanent avec la communauté, elle montre qu’il est possible de placer le bien‑être au cœur de l’innovation numérique.

---

Cet article s’inscrit dans la série « Personnalités » de NexusAI, dédiée aux acteurs qui façonnent le futur de l’intelligence artificielle au service de la santé mentale et du bien‑être.