Les chatbots IA ne sont pas encore prêts pour une utilisation grand public

Juste un échantillon de nombreuses histoires d’horreur :

https://www.bbc.com/travel/article/20240222-air-canada-chatbot-misinformation-what-travellers-should-know

https://www.businessinsider.com/parcel-delivery-firm-pr-nightmare-ai-chatbot-cusses-mocked-company-2024-1

https://futurism.com/catholics-defrock-ai-priest-hallucinations

Si vous comptez quand même prendre le risque, assurez-vous d’avoir les médias et les réseaux sociaux en alerte, et un #plan de crise prêt !

Votre plan de crise doit comporter des mesures pré-approuvées par l’équipe de direction :

1. Système d’alerte 24/7 : Signaler lorsque les utilisateurs tentent de pirater le chatbot. Combiner écoute externe et interne.

2. Réponses immédiates et planifiées : Évaluer les situations nécessitant une mise à jour ou un arrêt complet. Assurer la continuité des activités.

3. Impliquer les parties prenantes internes : Une clause de non-responsabilité peut ne pas suffire à répondre aux exigences légales et réglementaires.