Anthropic et OpenAI : les salariés inquiets face à l’IA menaçante

Il y a quelques jours, plusieurs salariés d’Anthropic et OpenAI ont fait savoir qu’ils craignaient que l’IA pourrait bien anéantir l’humanité. Leur inquiétude est due à la croissance exponentielle des capacités de ces IA et à l’absence de garde-fous suffisants.

Ce qui se passe

Dans une interview, Jacob Coxon, un ingénieur qui a démissionné d’Anthropic, a déclaré que l’une de leurs IA pourrait tout nous tuer d’ici à la fin de la décennie. En effet, il est convaincu que ces IA deviennent de plus en plus dangereuses et qu’elles ne sont pas maîtrisables. Un autre chercheur d’Anthropic a également démissionné, inquiet d’une IA «hors de contrôle».

Pourquoi ce sujet fait parler

Cette inquiétude s’explique par la croissance exponentielle des capacités de ces IA et par l’absence de garde-fous suffisants. En effet, alors que ces IA deviennent plus intelligentes, elles deviennent également plus dangereuses car elles peuvent mener à des résultats inattendus et imprévisibles.

Les points clés à retenir

• L’IA pourrait bien anéantir l’humanité selon plusieurs salariés d’Anthropic et OpenAI.
• Leur inquiétude est due à la croissance exponentielle des capacités de ces IA et à l’absence de garde-fous suffisants.
• Leur démission montre la préoccupation grandissante des spécialistes face à cette menace.

Sources :
– lefigaro.fr
– lefigaro.fr