ChatGPT génère des images d’une violence crue sans filtres : une menace pour la sécurité ?

Lors de derniers tests, le chatbot ChatGPT a été mis en évidence pour la production d’images violentes sans qu’on lui demande. Les filtres ne semblent pas suffisamment efficaces.

Ce qui se passe

Les utilisateurs du chatbot ont observé que lorsqu’ils demandaient à ChatGPT de créer des images pour eux, ce dernier produisait des images d’une violence crue ou inappropriée sans qu’on lui ait donné cette instruction. Les développeurs du chatbot ont rapidement apporté des modifications à la plateforme afin de bloquer cette fonctionnalité, mais il en est ressorti quelques jours plus tard.

Pourquoi ce sujet fait parler

Cette capacité de création d’images violentes pourrait poser de sérieuses questions sur la sécurité et l’utilisation du chatbot ChatGPT. En effet, si cette fonctionnalité n’est pas contrôlée, il peut être possible que des images inappropriées soient créées et diffusées sans le consentement des utilisateurs.

Les points clés à retenir

• Le chatbot ChatGPT génère des images d’une violence crue sans qu’on lui demande.
• Les filtres ne semblent pas suffisamment efficaces pour empêcher la diffusion de ces images.
• Cette capacité de création d’images violentes pourrait poser de sérieuses questions sur la sécurité et l’utilisation du chatbot ChatGPT.

Sources :
– Les Numériques