OpenAI arrête le développement de son nouveau modèle pour éviter un dérapage

Le groupe d’IA OpenAI prend des mesures drastiques en stoppant la création de son prochain modèle, après avoir reconnu les risques que représentent ces technologies. Les journaux ont appelé ces jeunes chercheurs “apprentis sorciers”, car ils s’approchent de la puissance divine.

Ce qui se passe

OpenAI a arrêté le développement de son prochain modèle, après avoir identifié les risques que représente l’utilisation de ces technologies. Le groupe avait créé un modèle capable de répondre à des questions et de générer du contenu textuel, mais il a été constaté qu’il pouvait également déraper en générant des informations fausses ou offensantes.

Pourquoi ce sujet fait parler

Le développement d’IA pose de nombreux problèmes éthiques et sociaux, notamment les risques de dérapage, la protection de la vie privée et l’employment du contenu fausses ou offensantes. OpenAI a reconnu ces problèmes et a pris des mesures pour éviter ce genre de situation dans le futur.

Les points clés à retenir

• OpenAI arrête le développement de son nouveau modèle.
• Le groupe avait créé un modèle capable de générer du contenu textuel et répondre à des questions.
• Il a été constaté que ce modèle pouvait également déraper en générant des informations fausses ou offensantes.

Ce qui pourrait se passer ensuite

Il est possible que d’autres groupes travaillent sur des technologies similaires et qu’ils soient confrontés aux mêmes problèmes éthiques et sociaux. OpenAI a pris une décision importante en arrêtant le développement de son nouveau modèle, mais il reste à voir si d’autres groupes suivront leur exemple.

Sources :
– Les Echos