Des experts appellent à une pause dans le développement de systèmes d’intelligence artificielle avancés
Les systèmes politiques et médiatiques internationaux ont besoin que s'exercent des contre-pouvoirs. Depuis sa création en 2003, le Journal Chrétien, service de presse reconnu par l'Etat, est une force démocratique importante pour tous les chrétiens, les pasteurs et les églises parce qu'il les défend et fait éclater la vérité. Lire la suite.
par Jyoti Narayan, Krystal Hu et Martin Coulter
(Reuters) – Un groupe d’experts dans le secteur de l’intelligence artificielle (IA) appelle dans une lettre ouverte à une pause de six mois dans le développement de systèmes d’IA générative plus puissants que GPT-4, récemment lancé par OpenAI, citant les risques potentiels pour la société et l’humanité.
La lettre, publiée par l’organisation à but non lucratif Future of Life Institute et signée par plus de 1.000 personnes, dont Elon Musk, plaide pour une pause jusqu’à ce que des protocoles de sécurité communs soient élaborés, appliqués et supervisés par des experts indépendants.
« Les systèmes d’IA puissants ne devraient être développés que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables », indique le document.
Les experts estiment que ces systèmes pourraient provoquer des perturbations économiques et politiques et demandent aux développeurs de travailler avec les décideurs politiques et les autorités de régulation.
Parmi les cosignataires figurent Emad Mostaque, directeur général de Stability AI, des chercheurs de DeepMind , propriété d’Alphabet, ainsi que les grands noms de l’IA Yoshua Bengio et Stuart Russell.
Ces inquiétudes surviennent alors qu’Europol, l’agence européenne de police, a publié lundi un rapport mettant en garde contre l’utilisation abusive de systèmes comme ChatGPT dans les tentatives d’hameçonnage, la désinformation et la cybercriminalité.
Sam Altman, directeur général d’OpenAI, n’a pas signé la lettre, a déclaré à Reuters un porte-parole de Future of Life. OpenAI n’a pas répondu immédiatement à une demande de commentaire.
« La lettre n’est pas parfaite, mais l’esprit est juste : nous devons ralentir jusqu’à ce que nous comprenions mieux les ramifications », a déclaré Gary Marcus, un professeur de l’Université de New York signataire de la lettre.
« Les grands acteurs sont de plus en plus discrets sur ce qu’ils font, ce qui rend difficile pour la société de se défendre contre les dommages qui pourraient survenir ».
(Reportage Jyoti Narayan à Bangalore, Krystal Hu à New York et Martin Coulter à Londres, version française Nathan Vifflin, édité par Kate Entringer)
Soutenez le Journal Chrétien, un média porteur d’espérance, ouvert et indépendant.
JE FAIS UN DON MAINTENANT
Soutenez le Journal Chrétien, un média porteur d’espérance, ouvert et indépendant
Depuis 2003, le Journal Chrétien incarne une presse chrétienne exigeante et indépendante, qui permet de s’informer, débattre, retrouver du sens et de l’espérance.
Le Journal Chrétien est né avec l'idée que l'information doit être indépendante et fiable, non biaisée par des intérêts d'actionnariat ou publicitaires.
Votre soutien nous est précieux pour nous permettre de continuer à produire ce journalisme chrétien de qualité, à réaliser des enquêtes inédites, des reportages singuliers, pour vous informer et nourrir votre réflexion sur les grands enjeux du moment.
Le Journal Chrétien , ce qui permet à tout donateur de bénéficier d’une déduction fiscale à hauteur de 66%.
NB: Le Journal Chrétien est un média reconnu par l'Etat, ce qui permet à tout donateur de bénéficier d’une déduction fiscale à hauteur de 66%.
