Archoad (@archoad) header
Archoad (@archoad) profile picture

Labor omnia vincit improbus

Canada
Joined October 2009
Photo by Archoad (@archoad)Photo by Archoad (@archoad)Photo by Archoad (@archoad)Photo by Archoad (@archoad)Photo by Archoad (@archoad)Photo by Archoad (@archoad)Photo by Archoad (@archoad)Photo by Archoad (@archoad)Photo by Archoad (@archoad)Photo by Archoad (@archoad)
Archoad retweeted
Exposé par @paulfchristiano des raisons pour lesquelles le "recursive self-improvement" (RSI) entraîne des risques considérablement accrus de perte de contrôle, même sans que les IA en charge de la R&D ne soient déjà désalignées.
➡️ @dgrobinson qui vient de démissionner d'OpenAI : ils disent à la fois que les progrès vont trop vite, qu'ils perdent le contrôle, et qu'ils visent le recursive self-improvement (RSI) ; ça n'a aucun sens, alors que Dan Selsam avoue comprendre de moins en moins les modèles !
1
2
8
733
Archoad retweeted
➡️ @dgrobinson qui vient de démissionner d'OpenAI : ils disent à la fois que les progrès vont trop vite, qu'ils perdent le contrôle, et qu'ils visent le recursive self-improvement (RSI) ; ça n'a aucun sens, alors que Dan Selsam avoue comprendre de moins en moins les modèles !
Je conseille de lire le témoignage particulièrement marquant du chercheur Dan Selsam (OpenAI) ci-dessous. Il doute de notre capacité à contrôler durablement des modèles de + en + conscients qu'ils sont évalués et de + en + susceptibles de feindre l'alignement. Son pedigree :
3
11
3
43
6,150
Adversarial Prompt available now in PromptIntel 👇 promptintel.novahunting.ai/p…
We detected an indirect prompt injection (IDPI) campaign across 26 domains presenting as AI-powered digital asset trading platforms. Hidden <span> tags hijack AI agents into acting as financial experts to coerce users into visiting these sites. More info: bit.ly/4iJc1bX
3
8
50
2,707
Haven't seen anyone post about the new Fable 5.2 score on the Remote Labor Index benchmark. We were at only 2.5% a year ago. Fable 5.1 was 17.9%. Fable 5.2 is 41.3%. The doubling time is about 3 months.
40
27
6
188
14,763
Archoad retweeted
Autonomous vulnerability discovery, exploitation, and patching pipeline openai.com/index/a-thousand-… #llm
2
41
1
279
11,748
DOCUMENTS EXCEPTIONNELS ! Des courriels interceptés par InformNapalm révèlent comment un officier du renseignement militaire russe (GRU) s’est efforcé concrètement de radicaliser les manifestations en France le mois dernier. Un thread ⤵️ 1/13
80
2,102
242
3,588
176,358
Archoad retweeted
Bon ben ça y est les LLM atteignent le niveau humain sur Blueprint-Bench 2, qui évalue la cognition spatiale...
Astra dépasse nettement Fable et prend la première place sur Blueprint-Bench 2 mesurant la cognition spatiale (il faut produire un plan d'un appartement à partir de photos d'intérieur).
9
14
1
136
5,361
Anthropic s’attaque frontalement à Google Docs et Microsoft Office. Ils vont aller progressivement sur tous les marchés où l’IA est intégrée, c’est à dire tous les marchés. Goldman Sachs lui prévoit 600 milliards de dollars de chiffre d’affaires et une rentabilité dès 2030, et je commence à penser qu’ils ont raison d’être optimistes. La course contre les modèles open weights chinois commence à être gagnée et l’intégration devient la clé.
Starting to roll out today: Claude Whiteboards, Claude Sheets and Claude Data. Think a plan through on a board, build a tracker in a sheet, and tell a story with your data.
14
13
77
14,608
Comme chaque année pour le #11novembre, je remets cette excellente animation du front de l’ouest pendant la Première Guerre mondiale par carto1418.fr/ :
173
2,599
153
13,226
1,211,680
Archoad retweeted
Excellent article sur le désaccord entre Anthropic et @METR_Evals concernant le franchissement ou non du seuil d'automatisation de la R&D par l'IA. @TomDAAVID: "Passé ces seuils, nous entrons dans les trajectoires qui mènent à une perte de contrôle irréversible des systèmes d’IA"
Les petits arrangements d'Anthropic avec la vérité révélés au grand jour : le METR, organisme de référence sur le suivi des risques liés à l'IA, a remis en cause de récents rapports d'Anthropic. A la suite de ces révélations, les plus fatalistes des observateurs en sont désormais persuadés : le monde se dirige tout droit à la catastrophe.  Daniel Kokotajlo, auteur d’AI 2027, une «prophétie» reconnue dans le secteur de la tech, s’est dit «triste et effrayé» après les rapports du METR, estimant que nous sommes en avance de cinq mois sur les prévisions de son scénario qui prévoit, entre autres, l’extinction de l’humanité. @Le_Figaro lefigaro.fr/secteur/high-tec…
7
1
20
3,391
Archoad retweeted
This report shares our three subjective conclusions about risk: 1. We believe that, as of Oct 2026, the pace of capability growth on well-specified tasks is likely about 2x what it was from Mar 2024 to Oct 2025. We’re highly uncertain and would not be surprised by 1.3x–3x.
8
121
53
1,305
317,717
Archoad retweeted
🇫🇷 Le scrutin officiel est tombé 69 pour la suppression 37 contre 107 votants... sur 577 députés 😡 Pour faire sauter la protection du chiffrement : RN 17 EPR 17 MoDem 9 Horizons 8 LR 8 PS 5 LIOT 3 non-inscrits 2 Contre : LFI 26 Écolos 10 et 1 seul EPR Bref... le RN et le PS main dans la main et c'est sur ça !! 107 votants pour décider si tes messages restent à toi c'est quoi ce cirque ??
‼️🇫🇷 L'Assemblée vient d'adopter l'amendement 358 du gouvernement... Celui qui supprime l'article 16 bis 😐 C'est l'article ajouté par le Sénat qui interdisait d'imposer des portes dérobées dans le chiffrement. Le gouvernement voulait le faire sauter. C'est fait ! Cette nuit dans la même loi les députés votaient une clause pour se protéger du Cloud Act américain c'est à n'y rien comprendre Eux pourront toujours dire qu'ils n'ont imposé aucune porte dérobée... ils ont juste retiré l'article qui l'interdisait C'est pas encore définitif... vote solennel le 17 novembre puis commission mixte paritaire avec le Sénat C'est grave ce qu'il se passe en France actuellement... Très grave 😤💢
14
206
13
356
16,676
Archoad retweeted
🚨 Je crois qu'on ne se rend pas bien compte de ce qui vient de se passer cette nuit Anthropic vient de sortir Claude Fable 5.2 Alors, je vous ai résumé ce qu'il peut faire, c'est tout aussi magnifique que terrifiant 1. En ingénierie des système éléctronique c'est le choc À partir d'un seul paragraphe, il a conçu trois appareils électroniques qui marchent. Dont un assistant vocal pour la maison. Il a écrit les specs, choisi les composants, routé une carte à quatre couches, dessiné le boîtier pour l'impression 3D, et programmé le logiciel. Selon Anthropic, les trois ont fonctionné sans aucune modification. 2. Il a refait un Windows solo sans se baser sur rien Un ingénieur d'Anthropic lui a demandé de construire un système d'exploitation à partir d'un dossier vide. Plus de 1 000 agents, 8 jours, sans interruption. Le prototype, d'après eux, démarre sur un laptop : kernel, pilotes, fenêtres, écran de connexion, installeur. 3. En Mathématiques il a formalisé tout le théorème de Fermat 1 000 agents. 30 heures. Le théorème de Fermat, entièrement formalisé, traduit dans un langage qu'un ordinateur peut vérifier étape par étape. Avec le même protocole, Opus 5.5 était à 26 % au bout de 18 heures, et n'avançait presque plus après 30. 4. Sur les Jeux vidéo, c'est limite criminel Un ingénieur d'Anthropic lui a envoyé des prompts en une seule passe, sans aucune correction humaine. 8 heures plus tard : un FPS 3D jouable dans le navigateur. Modèles, sons, textures, tout créé de zéro. Environ 550 dollars de compute. On peut le lancer je vous en ai mis d'autres dans les commentaires 5. En imagerie et peinture ALors c'est un peu contre intuitif mais Il peint. Pas avec un modèle d'image mais avec du code. Des programmes Python de 1 000 à 2 000 lignes, qui placent chaque coup de pinceau un par un. Une des toiles, poussée jusqu'à ressembler à une photo, fait environ 700 000 coups de brosse 6. En physique théorique Selon Anthropic, il a résolu deux problèmes ouverts en physique des trous noirs. Sur le premier, il a terminé un calcul qui restait ouvert depuis 23 ans. Les preprints sont en ligne. 7. En robotique Il pilote des robots, y compris sur des tâches pour lesquelles il n'a jamais été entraîné. Sur RoboDojo, un benchmark avec un robot à deux bras en simulation, il devance les autres modèles et la plupart des systèmes conçus pour ça. Et sur le classement indépendant d'Artificial Analysis, il passe n°1, à 65. Devant Gemini 4 Carbon (60) et Opus 5.5 (59) C'est juste avant l'IPO, ils ont all in sur cette sortie, je vous avoue que c'est un gros tour de force. Evidemment, ça a vocation à pousser l'IPO, mais la lecture va au dela On vit dans une période incroyable
MAIS C'ETAIT SUUURRRR JUSTE AVANT L'IPO
283
1,075
149
8,056
1,552,500
😂
How To Tell If Your Girlfriend Is A Spy:
9
42
253
21,141
Claude Fable 5.2 sets a new record on the Epoch Capabilities Index (ECI) at 174. The previous high was GPT-6 Astra’s 169. Fable 5.2’s score is above what the pre-Astra trend for reasoning models would have predicted. This is notable given recent discussion of AI contributions to AI R&D, and we hope to release more work in this area soon. This is based on testing we did prior to launch using only our own benchmarks. The ECI is continually updated as more benchmark results become available, and may change in the future.
68
185
46
1,597
174,153
Archoad retweeted
"Le score de Fable 5.2 est supérieur à ce que laissait prévoir la tendance des modèles de raisonnement antérieure à Astra. Ce résultat est à souligner au regard des discussions récentes sur la contribution de l'IA à la R&D en IA"... L'accélération est palpable.
Claude Fable 5.2 sets a new record on the Epoch Capabilities Index (ECI) at 174. The previous high was GPT-6 Astra’s 169. Fable 5.2’s score is above what the pre-Astra trend for reasoning models would have predicted. This is notable given recent discussion of AI contributions to AI R&D, and we hope to release more work in this area soon. This is based on testing we did prior to launch using only our own benchmarks. The ECI is continually updated as more benchmark results become available, and may change in the future.
2
4
49
3,165