Les experts mettent en garde contre les avancées i...

Le développeur d'IA Anthropic a lancé un avertissement sévère selon lequel les systèmes d'intelligence artificielle pourraient bientôt atteindre la capacité de concevoir et de former de manière autonome des modèles de nouvelle génération. Dans un article de blog publié jeudi, la société a souligné ses préoccupations concernant la technologie d'auto-amélioration récursive. 🚨C'EST EFFRAYANT : ANTHROPIC DIT QUE LE MONDE DEVRAIT METTRE EN PAUSE L'IA Plus tôt, le PDG d'Anthropic, Dario Amodei : "L'autre position extrême est 'c'est vraiment effrayant, nous devrions juste faire une pause... arrêter de construire la technologie'" Maintenant, Anthropic dit : "Notre IA devient effrayante pour nous améliorer.… pic.twitter.com/Gn0Mf04YzX — Coin Bureau (@coinbureau) juin Selon leur évaluation, les capacités de l'IA ont doublé environ tous les quatre mois, soit beaucoup plus rapidement que les estimations précédentes de sept mois. La contribution humaine à chaque cycle de développement continue de diminuer. Favaro et Clark ont noté que les agents d’IA actuels possèdent déjà la capacité d’exécuter du code de manière indépendante et d’assigner des tâches de plusieurs heures à d’autres systèmes automatisés. Bien que cela ne soit pas inévitable, ils ont averti que le développement d’une IA complètement autonome pourrait se concrétiser avant que les cadres réglementaires et les institutions ne soient préparés. « Lorsque le code généré par l’IA et celui écrit par l’homme atteignent des niveaux de qualité équivalents, les développeurs humains cesseront complètement d’écrire du code et passeront exclusivement à des fonctions de révision », ont-ils expliqué. "étape transformatrice de l'évolution technologique" tout en soulignant les implications substantielles en matière de sécurité. Selon Anthropic, une décélération efficace du développement de l'IA exige un consensus entre plusieurs laboratoires bien financés opérant à la frontière technologique. L'Anthropic Institute, la division de recherche de l'entreprise, a l'intention d'étudier quelle infrastructure soutiendrait les ralentissements de développement coordonnés. Au cours des prochains mois, Anthropic prévoit de réunir des décideurs politiques, des chercheurs universitaires, des organisations de la société civile et des sociétés d'IA homologues pour explorer ces défis. En avril dernier, Anthropic a retenu son modèle le plus sophistiqué, Claude Mythos, après avoir identifié des vulnérabilités en matière de cybersécurité. avec une valorisation d'entreprise de 61 milliards de dollars et a soumis une documentation confidentielle pour une introduction en bourse aux États-Unis. Découvrez les actions les plus performantes dans les domaines de l'IA, de la cryptographie et de la technologie avec une analyse d'experts.