[Index] Intelligence artificielle

[Tugdual]

Il menace un agent du renseignement en parlant à ChatGPT :

• le RAID débarque chez lui...

Extrait :

Un Strasbourgeois de 37 ans a été interpellé par le RAID après avoir formulé des menaces dans une conversation avec ChatGPT. OpenAI a signalé les propos au FBI, qui a transmis l'alerte aux autorités françaises via la plateforme Pharos.

L'affaire a été classée sans suite, mais elle montre que les échanges avec les chatbots ne sont pas vraiment privés.

[Tugdual]

Les compagnies d'assurance utilisent déjà l'IA :

• pour refuser plus de remboursements à leurs clients...

Extrait :

Loin de faire l'unanimité dans l'opinion publique en raison de leur aptitude à couper les cheveux en quatre pour justifier leur manque de générosité, les agents d'assurances en chair et en os finiront probablement par nous manquer. C'est ce qu'affirme en substance Futurism, qui s'inquiète d'une tendance émergente susceptible de se démocratiser: l'automatisation de l'évaluation des risques grâce à l'intelligence artificielle (IA).

Santé, habitation, automobile: tous les secteurs de l'assurance aux particuliers sont touchés. Les gestionnaires de sinistres humains sont amenés à être progressivement remplacés par des systèmes utilisant l'IA. Débarrassés de tout facteur humain, donc de toute once d'empathie, les processus pourraient devenir nettement plus stricts –toujours en défaveur de l'assuré.

[Tugdual]

Claude Mythos - le nouveau modèle IA d'Anthropic :

• jugé trop dangereux pour le public...

Extrait :

En quelques semaines de tests internes, le modèle aurait identifié selon l’entreprise américaine des milliers de failles zero-days dans chaque système d’exploitation majeur et chaque navigateur web grand public.

[...]

Les exemples fournis par Anthropic donnent une idée concrète de ce dont le modèle est capable. Il a détecté une vulnérabilité vieille de 27 ans dans OpenBSD, système réputé pour sa robustesse, qui permettait de faire planter à distance n’importe quelle machine l’exécutant. Il a également repéré une faille de 16 ans dans FFmpeg, bibliothèque multimédia omniprésente, que les outils automatisés avaient testée cinq millions de fois sans jamais la détecter. Plus inquiétant encore : le modèle a enchaîné de façon entièrement autonome, sans guidage humain, plusieurs vulnérabilités dans le noyau Linux pour escalader des privilèges jusqu’au contrôle total d’une machine.

[...]

« Le délai entre la découverte d’une vulnérabilité et son exploitation par un adversaire s’est effondré », résume Elia Zaitsev, directeur technique de CrowdStrike. « Ce qui prenait des mois se fait désormais en quelques minutes avec l’IA. »

[... ]

Pour encadrer le déploiement du modèle, Anthropic a constitué un consortium de onze partenaires autour d’un projet baptisé Glasswing. AWS, Apple, Microsoft, Google, Cisco, CrowdStrike, NVIDIA, Broadcom, JPMorganChase, Palo Alto Networks et la Linux Foundation utiliseront ainsi Mythos Preview à des fins défensives, détection de vulnérabilités, tests d’intrusion, sécurisation de systèmes critiques.

Anthropic s’engage à hauteur de 100 millions de dollars en crédits d’utilisation pour ses partenaires et plus de quarante organisations supplémentaires, dont des mainteneurs de logiciels open source, historiquement laissés sans moyens face aux enjeux de sécurité.

Le raisonnement d’Anthropic est celui d’une course contre la montre : puisque des modèles aussi capables vont proliférer, autant les déployer en premier à des fins défensives.

Également :

• Glasswing - L'IA d'Anthropic qui déniche des milliers de zero-days...

[ikh]

 
Trop tôt ?
Trop pessimiste ?

[Hydrean]

Anthropic indique ne pas envisager de rendre Mythos Preview accessible au grand public. L’entreprise précise toutefois que son objectif à terme est de permettre un déploiement de modèles aux capacités comparables, une fois des garde-fous suffisants développés.

Ils peuvent donc toujours attendre. Vue que rien en informatique n'est infaillible.

[micronico]

La plupart des chercheurs en AI cherchent à imiter l'humain. Et on est en plein dedans.
La vraie IA viendra du comportement emergent.
Au début ce ne sera pas glorieux, mais en fonction des progrès, on pourra parler d'AI.

La restitution, c'est déjà ce que font les appareils photo. (ou mobiles)
Ils sont capables de discerner les visages d'une image en temps réel.

[Tugdual]

Non, l’IA Claude Mythos n’a pas découvert :

• des milliers de failles critiques...

Extrait :

Présenté comme un modèle d’IA capable de découvrir des milliers de failles critiques inédites, Mythos d’Anthropic a suscité un véritable emballement après sa fuite. Mais derrière les annonces spectaculaires, la réalité apparaît bien plus nuancée : comme le souligne Tom’s Hardware, ces performances reposent en grande partie sur des extrapolations à partir de données limitées.

Également...

Yann LeCun qualifie la panique suscitée par la version préliminaire de « Claude Mythos » d'Anthropic :

• de mise en scène exagérée « issues d'une illusion »...

[Hydrean]

Un rapport de Stanford révèle un fossé grandissant entre l'optimisme des experts en technologie et l'inquiétude croissante du grand public face à l'IA. Tandis que les spécialistes se concentrent sur des concepts abstraits comme l'intelligence artificielle générale (AGI), les citoyens ordinaires craignent principalement pour la stabilité de leur emploi et l'augmentation du coût de la vie. Les données montrent que les leaders de l'industrie sous-estiment souvent cette hostilité sociale, qui se manifeste parfois par des actes violents visant les dirigeants du secteur. La résidence de Sam Altman a été récemment attaquée par un homme très hostile à l'IA.

https://intelligence-artificielle.devel ... de-la-vie/