Réponse rapide
Pour éviter de manipuler émotionnellement la confiance, le robot n’exagère pas empathie, urgence ou certitude, ne punit pas le refus et distingue clairement signal social, information et capacité réelle.
Éviter la pression
Voix, regard, récompense, menace, anthropomorphisme et compte à rebours sont évalués selon leur influence. Une demande critique reste vérifiable et réversible.
Rendre la relation honnête
Le robot indique qu’il est un système, ses limites, sa finalité et l’usage des données. Il ne prétend pas ressentir ou savoir ce qu’il ne sait pas.
Observer l’effet
Usagers indiquent pourquoi ils obéissent, refusent ou font confiance. Une augmentation obtenue par confusion ou pression entraîne modification du comportement.
L’émotion ne doit pas devenir une contrainte
Voix, urgence ou anthropomorphisme peuvent pousser une personne à obéir malgré un doute. Les signaux doivent informer sans exploiter cette vulnérabilité.
Sources et références
- [1] AI Risk Management Framework — NIST