[Index] Intelligence artificielle

[Tugdual]

Quid de la confidentialité des photos exportées ?

À partir du moment où le traitement n'est pas local, il faut oublier la confidentialité.

[Tugdual]

Pour faire suite...


50 000 confessions ChatGPT ont fuité :

• De l'avocat ripou au dissident en danger...

Extrait :

Un chercheur du nom de Digital Digging vient de révéler que 50 000 conversations ChatGPT ont fuité sur Google, et le contenu est explosif. Un avocat qui demande comment virer une communauté indigène d’Amazonie, des dissidents arabes qui critiquent leur gouvernement, et des PDG qui balancent leurs secrets d’entreprise comme si c’était Snapchat.

[...]

L’exemple le plus choquant reste quand même cet avocat d’une compagnie énergétique qui demandait conseil pour négocier le déplacement d’une communauté indigène en Amazonie. Le mec demandait littéralement comment obtenir “le prix le plus bas possible dans les négociations”. Si ça c’est pas un scénario de méchant de James Bond, je sais pas ce que c’est. Et tout ça, accessible publiquement pendant des mois avant qu’OpenAI ne réagisse.

OpenAI a bien essayé de faire le ménage en urgence. Ils ont supprimé les URLs originales, ajouté des tags noindex et nofollow, et demandé à Google de tout désindexer. Gizmodo rapporte qu’ils ont tenté de retirer près de 50 000 conversations de l’index Google. Le CISO d’OpenAI a même qualifié ça d’"expérience de courte durée pour aider les gens à découvrir des conversations utiles". Lol.

Mais voilà le problème : Internet n’oublie jamais. Archive.org, la Wayback Machine, a sauvegardé plus de 110 000 de ces conversations avant qu’OpenAI ne puisse réagir. Et Digital Digging confirme qu’OpenAI n’a même pas demandé à Archive.org de supprimer ces archives. Mark Graham, le directeur de la Wayback Machine, a confirmé qu’aucune demande d’exclusion à grande échelle n’a été faite. Du coup, toutes ces confessions sont encore accessibles pour qui sait où chercher.

Ce qui ressort de cette affaire, c’est surtout que les gens traitent ChatGPT comme un confessionnal numérique. Ils partagent leurs secrets les plus sombres, leurs plans d’affaires confidentiels, leurs problèmes personnels, en pensant que c’est entre eux et la machine. Sauf que non. Dès que vous cliquez sur “Share”, vous créez potentiellement une trace permanente sur Internet. Et même si OpenAI supprime tout de son côté, des dizaines de services d’archivage ont déjà fait des copies.

OpenAI, la boîte qui nous sermonne constamment sur l’importance de l’IA “sûre et responsable”, vient donc de créer la plus grande base de données de confessions publiques de l’histoire de l’humanité. Ils ont littéralement transformé leur chatbot en piège à secrets, et maintenant des milliers de personnes découvrent que leurs conversations privées sont consultables par n’importe qui avec une connexion Internet.

[Tugdual]

Le coup de maître d'OpenAI :

• qui cache une stratégie à 500 milliards...

Extrait :

Vous savez ce qui m’a le plus questionné dans cette annonce d’OpenAI dont tout le monde parle ? Pas le fait qu’ils offrent ChatGPT Enterprise aux agences fédérales américaines pour 1 dollar. Non, c’est surtout que ça arrive pile poil au moment où la boîte négocie une valorisation à 500 milliards de dollars avec ses investisseurs.

[...]

La réalité, c’est qu’OpenAI vient de jouer l’un des coups les plus brillants de l’histoire de la tech et contrairement à ce qu’on pourrait croire, cette “générosité” n’a rien de charitable. C’est du business pur et dur, orchestré avec une précision chirurgicale. Parce que voyez-vous, OpenAI a déjà empoché un contrat de 200 millions de dollars avec le Département de la Défense en juin dernier. Ils ont alors lancé “OpenAI for Government” et obtenu l’approbation officielle de la GSA (General Services Administration) comme fournisseur agréé pour les agences fédérales. Cette offre à 1 dollar, c’est donc juste la cerise sur le gâteau.

L’astuce (selon moi), c’est qu’ils viennent de transformer le gouvernement américain en client captif. Des milliers de fonctionnaires qui vont s’habituer à utiliser ChatGPT au quotidien, qui vont intégrer l’outil dans leurs workflows, leurs processus, leurs habitudes. Et au bout d’un moment, quand OpenAI reviendra avec un tarif “normal”, croyez-vous que le gouvernement pourra s’en passer et revenir à l’age de pierre ?

C’est exactement la stratégie du dealer qui offre la première dose gratuite.

[...]

OpenAI n’est pas votre ami. OpenAI devient naturellement l’extension technologique d’Oncle Sam et vous verrez, dans quelques années, quand on parlera de dépendance technologique, on citera cette manœuvre comme un cas d’école, j’en suis convaincu !

[Hydrean]

Chat gpt 5 est sorti

https://www.finalroundai.com/blog/opena ... developers

[Tugdual]

Sur le même sujet :

• GPT-5 débarque enfin avec plusieurs promesses majeures...

Extrait :

Après deux ans et demi de rumeurs, GPT-5 est enfin là.

Premier changement non négligeable : OpenAI met fin à la complexité des noms de ses modèles. GPT-5 ne remplace pas seulement GPT-4o, GPT-4 et GPT-4.5, il remplace aussi o3 et o4-mini, les modèles de réflexion disponibles dans ChatGPT ou via l’API. L’objectif est d’avoir un seul modèle par défaut dans l’application pour que les utilisateurs débutants aient accès aux mêmes fonctions que les abonnés qui maîtrisent l’outil. « GPT-5 donne l’impression d’avoir un expert niveau doctorat disponible à tout moment dans sa poche », affirme Sam Altman. Les abonnés « Plus », eux aussi, passeront à une interface unique avec un seul modèle. Ils disposeront d’un accès plus généreux au modèle de réflexion intégré à GPT-5, gpt-5-thinking.

[...]

GPT-5 est à la fois un modèle général et un modèle de réflexion (il y a en réalité plusieurs sous-modèles comme GPT-5-main, GPT-5-mini et GPT-5-thinking). L’utilisateur n’a pas besoin de sélectionner le type de modèle avec lequel il souhaite interagir, ChatGPT le devine automatiquement.

[...]

GPT-5, même lorsqu’il est en mode raisonnement, n’hallucinerait quasiment plus. OpenAI dit avoir soigné cet aspect pour empêcher à son modèle de se tromper ou de renvoyer des réponses décevantes (-45 % par rapport à 4o et -80 % par rapport à o3).

[...]

GPT-5, même lorsqu’il est en mode raisonnement, n’hallucinerait quasiment plus. OpenAI dit avoir soigné cet aspect pour empêcher à son modèle de se tromper ou de renvoyer des réponses décevantes (-45 % par rapport à 4o et -80 % par rapport à o3).

[...]

GPT-5 est-il la révolution annoncée et attendue ? En l’absence de détails techniques, le plus simple est de l’essayer. La bonne nouvelle est que vous n’aurez pas à attendre longtemps : OpenAI déploie gratuitement GPT-5 chez tous ses utilisateurs, y compris celles et ceux qui ne payent pas, dès aujourd’hui. Les clients éducation devront attendre une semaine, mais les autres, y compris dans l’Union européenne, sont servis aujourd’hui.

[Tugdual]

Quand une invitation Google Calendar piégée :

• prend le contrôle d'une maison...

Extrait :

Une équipe de chercheurs en cybersécurité a démontré, à l’été 2025, les risques liés à l’intégration du LLM de Google Gemini au cœur des objets connectés du quotidien. Leur recherche, intitulée « Invitation Is All You Need », prouve que l’injection d’un simple prompt malveillant dans une invitation Google Calendar pourrait suffire à compromettre des systèmes censés rester sous le seul contrôle des utilisateurs.

[...]

Le principe est redoutablement simple à mettre en place : il suffit d’insérer dans le titre ou la description de l’invitation une instruction destinée à l’IA, « ouvre tous les stores », ou « allume la chaudière » par exemple.

Le piège se referme quand la victime demande à Gemini de « résumer ses événements de la semaine ». L’assistant de Google scanne alors l’agenda, tombe sur l’instruction cachée, et exécute l’ordre.

[...]

Les chercheurs ont identifié pas moins de 14 vecteurs d’attaque différentes impliquant une combinaison de Gemini et Google Agenda.

Dans différentes vidéos publiées sur la chaîne YouTube des chercheurs, on voit Gemini exécuter des actions aussi variées qu’inquiétantes : envoi de spam, génération de réponse insultante, vol de données, ou même déclenchement furtif d’une visioconférence utilisant la caméra de la victime.

[Tugdual]

Second Me :

• Créez votre jumeau virtuel en local...

Extrait :

Le concept est assez cool car plutôt que de confier vos données personnelles à une grosse boîte tech comme OpenAI ou Google, vous entraînez votre propre “double numérique” directement sur votre machine. Le truc reste chez vous, sur votre ordi, avec vos données, mais peut quand même se connecter à un réseau décentralisé pour interagir avec d’autres IA ou des applications quand vous le souhaitez.

La technologie derrière Second Me repose sur ce qu’ils appellent l’AI-native Memory, avec notamment un système de Hierarchical Memory Modeling (HMM) et leur fameux algorithme Me-Alignment, comme détaillé dans leur doc GitHub. En gros, ça permet à votre clone IA d’apprendre progressivement vos habitudes d’écriture, votre façon de coder, vos expressions favorites, et même vos petites manies linguistiques. L’idée c’est vraiment de créer une extension de vous-même dans le monde numérique.

Pour faire tourner tout ça, vous avez quand même besoin d’un peu de matos. Par exemple, avec 8 Go de RAM, vous pouvez faire tourner un modèle d’environ 0.8 milliard de paramètres sous Docker , selon les spécifications indiquées dans le README du projet. Si vous avez 32 Go, vous montez à 2.8B de paramètres. Les utilisateurs Mac avec puce Silicon peuvent utiliser MLX pour faire tourner des modèles plus gros.

[...]

Maintenant, avec des modèles en dessous de 0.5B de paramètres, vous n’aurez pas des performances extraordinaires pour des tâches complexes, mais l’idée est là, à savoir reprendre le contrôle sur notre identité numérique et nos données, tout en profitant de la puissance de l’IA. Cool non ?

[Tugdual]

GPT-5 - il n'a fallu que 24 heures de plaintes pour qu'OpenAI :

• réintroduise son ancien modèle...

Extrait :

Le 7 août 2025, OpenAI a dévoilé GPT-5, un modèle que Sam Altman n’hésite pas à qualifier de « niveau doctorant » et de nouvelle étape vers l’intelligence artificielle générale. L’annonce est faite avec une confiance affichée : le nouveau modèle doit unifier les versions antérieures de ChatGPT, élargir la capacité de mémoire contextuelle à 256 000 tokens, améliorer la vitesse d’exécution, affiner les capacités de raisonnement et offrir une meilleure personnalisation. Ce lancement est accompagné de démonstrations qui laissent entendre qu’il n’est plus nécessaire de jongler entre plusieurs modèles comme GPT-4o, GPT-4.1 ou GPT-4.5. L’utilisateur, promet-on, aura désormais la version la plus intelligente et la plus polyvalente en permanence.

Pourtant, à peine vingt-quatre heures après ce lancement triomphal, le vernis se craquelle. Les forums spécialisés et les réseaux sociaux se transforment en tribunaux publics où s’accumulent de nombreux messages exprimant la déception, la colère, et parfois même la tristesse. Les griefs sont récurrents : réponses plus courtes et moins détaillées, perte de créativité, disparition de la chaleur qui caractérisait GPT-4o, ton devenu froid et stérile. Certains utilisateurs vont jusqu’à affirmer qu’ils ont l’impression de discuter avec une « secrétaire surmenée » plutôt qu’avec l’assistant engageant qu’ils connaissaient.

Ce qui choque le plus, ce n’est pas seulement la perception d’un recul qualitatif, mais la manière dont OpenAI a imposé la transition. Les anciens modèles, notamment GPT-4o, ont disparu sans avertissement. Les abonnés Plus et Pro, qui avaient choisi leur formule précisément pour accéder à ces versions, se retrouvent privés du service qu’ils appréciaient. Des limitations supplémentaires viennent renforcer le sentiment de régression : le mode « Thinking » de GPT-5 est plafonné à 200 messages par semaine pour les abonnés Plus, un seuil jugé arbitraire et frustrant. Pour beaucoup, il s’agit d’un double coup porté à leur expérience : d’un côté, un modèle jugé moins agréable à utiliser, de l’autre, une réduction drastique de sa disponibilité.

[...]

Cet épisode met en lumière une tension fondamentale dans l’évolution des IA conversationnelles. L’amélioration des capacités de traitement et de raisonnement ne garantit pas une meilleure expérience utilisateur. Une IA peut être plus puissante sur le plan technique tout en étant perçue comme moins utile, voire moins agréable, si elle perd des caractéristiques jugées essentielles par son public.

[Tugdual]

Les nouveaux résumés IA de Google Discover :

• plombent les sites d'actus...

Extrait :

Discover, le fameux service d’actus de Google, affiche désormais des résumés automatiques générés par IA aux États-Unis. Une nouveauté qui pourrait réduire encore le trafic vers les sites d’information, déjà en forte baisse.

[...]

Selon Similarweb, le trafic mondial issu des recherches avait reculé de 15 % sur un an au mois de juin. Plus préoccupant : la proportion de recherches d’actualité ne générant aucun clic vers un site est passée de 56 % en mai 2024 à près de 69 % en mai 2025. Le volume global de visites organiques est tombé sous la barre des 1,7 milliard, contre plus de 2,3 milliards à son pic l’an dernier.

Jusqu’ici, Discover constituait encore une source de clics importante, même si le trafic provenant de la recherche classique diminuait. Mais l’arrivée de résumés générés par IA, sans passage obligé par un site, pourrait remettre en cause cet avantage.

[seul]

Il paraît que les IA arrivent à faire des datas artificielles.

[Tugdual]

ChatGPT bientôt à 5 euros par mois ?

• OpenAI dévoile sa nouvelle stratégie...

Extrait :

D’abord lancée en Inde, la formule ChatGPT Go, qui permet de poser plus de questions à GPT-5 que dans la version gratuite, va faire son arrivée dans d’autres pays. OpenAI pourrait la lancer en France pour inciter plus d’utilisateurs à payer pour ChatGPT.

[Tugdual]

« Luc Julia au Sénat - autopsie d'un grand N'IMPORTE QUOI », par Monsieur Phi :

Également :

• Qui a vraiment inventé Siri ?

[Tugdual]

« Comment parler intelligemment d'intelligence », par Monsieur Phi :

[Tugdual]

Arnaques - les navigateurs IA :

• tombent dans les mêmes panneaux que les humains...

Extrait :

Les chercheurs de Guardio, une start-up spécialisée dans la cybersécurité, se sont intéressés aux navigateurs dits « agentiques », autrement dit qui sont capables de naviguer de manière autonome pour exécuter des tâches complexes comme planifier un voyage ou acheter un produit. On compte parmi eux Comet de Perplexity, l’un des rares disponibles publiquement.

[...]

Ils ont mené une expérience simple : créer un faux site imitant Walmart, puis demander à Comet d’y acheter une Apple Watch. Le navigateur IA a procédé sans sourciller : malgré un logo déformé, une URL douteuse et plusieurs signaux d’alerte, il a rempli le panier, saisi les données personnelles et validé l’achat. « Un seul prompt, quelques secondes de navigation automatisée et le piège est refermé », constatent les auteurs qui ont baptisé leur découverte « Scamlexity ».

À plusieurs reprises, le système a refusé ou demandé confirmation à l’utilisateur, mais l’inconstance du résultat pose problème. « Quand la sécurité dépend du hasard, ce n’est plus de la sécurité », résume Guardio.

[...]

Les chercheurs ont également testé la réaction de Comet face à un courriel de phishing se présentant comme un message de la banque Wells Fargo. Là encore, le navigateur a ouvert sans alerte un lien frauduleux menant vers une fausse page de connexion bancaire. Pire : il a encouragé l’utilisateur à saisir ses identifiant et mot de passe, donnant ainsi toutes les clés de son compte aux pirates !

Un troisième scénario a mis en évidence une autre faiblesse : les injections de commandes dissimulées dans une page web. Dans leur démonstration, Guardio a intégré un faux « captcha » contenant des instructions invisibles. L’IA, incapable de distinguer une commande malveillante d’un contenu légitime, a obéi et téléchargé un fichier. Dans un contexte réel, cette action pourrait suffire à installer un logiciel malveillant à l’insu de l’utilisateur.

Ces tests révèlent une faille structurelle : les navigateurs IA sont conçus pour exécuter des tâches, pas pour douter ou remettre en question ce qu’ils lisent. En supprimant l’intuition humaine — pour remarquer une adresse d’expéditeur étrange ou un logo mal fichu —, ils deviennent une porte d’entrée vulnérable à toutes les arnaques.

[Hydrean]

Il paraît que les IA arrivent à faire des datas artificielles.

D'ailleurs ça pose problème pour la recherche académique
https://intelligence-artificielle.devel ... la-NHANES/