[Index] Intelligence artificielle

[Tugdual]

Dall-E, le générateur d'images IA développé par OpenAI :

• est maintenant ouvert à tous...

Extrait :

Le groupe de recherche en intelligence artificielle OpenAI a annoncé qu'elle a supprimé la liste d'attente pour son service de générateur d'images AI DALL-E. Cela signifie que tout le monde peut s'inscrire et l'utiliser.

[...]

DALL-E est un modèle de synthèse d'images par apprentissage profond qui a été entraîné sur des centaines de millions d'images tirées d'Internet. Il utilise une technique appelée diffusion latente pour apprendre les associations entre les mots et les images. Ainsi, les utilisateurs de DALL-E peuvent saisir une description textuelle, appelée invite, et la voir restituée visuellement sous la forme d'une image de 1024×1024 pixels dans presque tous les styles artistiques.

[...]

Nommé d'après l'artiste surréaliste Salvador Dali et le personnage robot de Pixar, Wall-E, le prédécesseur du modèle, DALL-E, a été lancé l'année dernière. Ce logiciel est capable de créer des images dans différents styles artistiques lorsqu'il est guidé par des entrées de texte : il génère des images à partir de ce que vous lui décrivez.

[Tugdual]

Intelligence artificielle :

• normes techniques et droits fondamentaux, un mélange risqué...

Extrait :

Le futur règlement européen « AI Act » a pour but la création d’un cadre légal pour l’ensemble des systèmes d’intelligence artificielle (IA), notamment ceux posant des risques importants pour la sûreté ou les droits fondamentaux, comme la non-discrimination, la vie privée, la liberté d’expression ou la dignité humaine.

Dans sa version actuelle, le projet de règlement traite tous ces risques de la même manière. Un marquage CE (pour « conformité européenne », comme celui existant), indiquerait que le système d’IA est jugé suffisamment sûr pour être mis sur le marché, qu’il s’agisse de la sûreté physique ou vis-à-vis des droits fondamentaux. Le texte présenté accorde une grande importance aux normes techniques et aux analyses de risques, espérant pouvoir standardiser les méthodes d’évaluation.

Néanmoins, il persiste une tension entre l’approche « par les risques », proposée par la Commission, et l’approche axée sur le respect des droits fondamentaux, privilégiée par les tribunaux et par les travaux du Conseil de l’Europe.

[...]

Ces normes peuvent également se révéler inutiles, voire dangereuses si elles sont mal utilisées, par exemple si elles servent à l’apposition d’une certification prétextant prémunir de toute violation de nos libertés. En effet, l’apposition d’un marquage CE n’indique que la conformité avec les règles du moment, déclarée par le fabricant, mais ne garantit pas la sûreté ou l’absence formelle de discrimination.

Ce problème est aggravé par la « présomption de conformité » créée par la certification : lorsqu’un système suit une norme, sa sûreté est moins souvent remise en question. Il est alors primordial de construire un marquage CE qui ne déleste pas les fournisseurs et utilisateurs des systèmes d’IA de leur responsabilité. Le marquage servirait alors non pas à garantir qu’un système est exempt d’atteinte aux droits fondamentaux, mais à garantir que l’entreprise a mis en place des mesures pour les limiter.

[Tugdual]

En replay sur Arte jusqu'au 03/12/2022 :

• Intelligence artificielle : quel impact sur nos sociétés ?

[freeshost]

Ils ont aussi mis sur YouYoute.

[Tugdual]

Une étude met en garde contre l'utilisation des caméras thermiques et de l'IA :

• pour pirater les mots de passe...

Extrait :

Une nouvelle étude a révélé comment les criminels peuvent utiliser des caméras thermiques pour retracer le mot de passe qu'une personne a tapé sur un smartphone, un clavier d'ordinateur ou même un distributeur automatique de billets. Des chercheurs de l'université de Glasgow ont montré comment des caméras détectant la chaleur peuvent aider à craquer des mots de passe jusqu'à une minute après les avoir tapés. Ils ont publié leurs résultats dans la revue ACM Transactions on Privacy and Security. Dans cette étude, les informaticiens ont mis au point un système d'intelligence artificielle appelé ThermoSecure, capable de retracer les mots de passe récemment saisis à partir de la chaleur du bout des doigts d'une personne. Les images des claviers et des écrans prises par la caméra thermique peuvent être analysées par l'IA pour deviner correctement les mots de passe informatiques en quelques secondes.

[freeshost]

Ça devient chaud... avant la douche froide...

[Tugdual]

L'IA ne pourrait pas éliminer :

• les biais dans le processus de recrutement...

Extrait :

Aux États-Unis, certains employeurs se sont servis de systèmes de recrutement s'appuyant sur l'intelligence artificielle. Ils permettent de remodeler la façon dont les entreprises évaluent leurs effectifs (et aussi la façon dont les employés potentiels prouvent leur valeur).

Conçu par la société de technologie de recrutement HireVue, le système utilise des caméras d’ordinateur ou de téléphone portable des candidats pour analyser leurs mouvements faciaux, leur choix de mots et leur voix avant de les classer par rapport à d’autres candidats sur la base d’un score « d’employabilité » généré automatiquement.

En octobre 2019, le Washington Post notait que les « évaluations appuyées par l'IA » de HireVue sont devenues si omniprésentes dans certains secteurs, notamment l'hôtellerie et la finance, que les universités s'efforçaient de former les étudiants à la recherche des meilleurs résultats. À cette période, plus de 100 employeurs utilisaient le système, y compris Hilton, Unilever et Goldman Sachs, et plus d'un million de demandeurs d'emploi avaient été analysés.

Certains chercheurs en intelligence artificielle ont estimé que ce système est un mélange infondé de mesures superficielles et de calculs arbitraires qui n’est pas enraciné dans des faits scientifiques. Analyser un être humain de la sorte, affirment-ils, risquerait de pénaliser des interlocuteurs qui ne sont pas du coin, des interviewés visiblement nerveux ou toute autre personne qui ne correspondrait pas au modèle de regard et de langage.

[...]

L'IA peut-elle éliminer les biais dans le processus de recrutement ? Non, d'après une récente étude

Un article publié dans la revue Philosophy and Technology par des chercheurs de l'Université de Cambridge démontre cependant que le logiciel n'est guère plus qu'une « pseudoscience automatisée ».

[Tugdual]

Débourser 10 dollars seulement :

• pour créer un chatbot IA d'un proche décédé...

Extrait :

L'année dernière, l'histoire d'un homme qui a initié un chatbot alimenté par GPT-3 avec des messages texte de sa fiancée décédée afin de pouvoir lui parler à nouveau est devenue virale. Un logiciel d'imitation a essentiellement aidé Joshua Barbeau à accepter la mort de Jessica Pereira, une femme qu'il avait rencontrée et dont il était tombé amoureux il y a dix ans. Après cet article du San Francisco Chronicle, les gens se sont rués sur le projet December, la technologie utilisée par Barbeau, pour créer leurs propres chatbots d'IA. Le créateur du logiciel, Jason Rohrer, un développeur de jeux indépendants, a créé le code pendant la pandémie de COVID-19 et a pensé que les internautes seraient prêts à payer cinq dollars pour personnaliser la personnalité d'une entité virtuelle à laquelle ils voulaient parler. Il n'a pas tout de suite pensé que les gens seraient intéressés par l'utilisation de Project December pour simuler des morts, jusqu'à ce que l'histoire de Barbeau explose.

Aujourd'hui, Rohrer a relancé le Projet December en tant qu'outil spécifiquement destiné à renouer le contact avec les morts. Les utilisateurs peuvent payer 10 dollars pour créer un chatbot imitant le comportement d'une personne décédée. « J'ai décidé de créer un service spécial lorsque j'ai constaté un tel désir dans la communauté autour de Project December après l'article du SF Chronicle. Je voulais construire quelque chose de mieux pour ces personnes. Avec un peu de chance, ils obtiendront l'aide qu'ils recherchaient grâce à cette expérience », a déclaré Rohrer.

[...]

Les utilisateurs sont invités à remplir un questionnaire sur la personne qu'ils souhaitent simuler et avec laquelle ils souhaitent converser, en fournissant son nom, son âge, ses loisirs, ainsi que des souvenirs et des faits spécifiques. Le projet December utilise ces informations pour rendre les conversations plus personnelles et les réponses du chatbot plus convaincantes. Le programme de Rohrer est alimenté par le modèle de langage d'AI21 Lab après qu'il ait perdu l'accès à GPT-3 lorsque OpenAI a fermé son compte de développeur pour des raisons de sécurité.

[Tugdual]

Des artistes ont découvert que leur travail :

• était utilisé pour entraîner l'IA, et ils sont furieux...

Extrait :

Autrefois réservés à un groupe restreint d'initiés de la technologie, les systèmes d'IA texte-image sont de plus en plus populaires et puissants. Ces outils, qui offrent généralement quelques crédits gratuits avant d'être facturés, peuvent créer toutes sortes d'images avec seulement quelques mots, y compris celles qui évoquent clairement les œuvres de très nombreux artistes (si elles ne semblent pas avoir été créées par le même artiste). Les utilisateurs peuvent désigner ces artistes par des mots tels que "dans le style de" ou "par", accompagnés d'un nom spécifique. Et les utilisations actuelles de ces outils peuvent aller de l'amusement personnel à des cas plus commerciaux. Mais la découverte par des artistes que leur travail est utilisé pour entraîner l'IA soulève une préoccupation fondamentale : leur propre art est effectivement utilisé pour entraîner un programme informatique qui pourrait un jour s'attaquer à leur gagne-pain.

[Tugdual]

La RIAA considère les mixeurs de musique à IA :

• comme une menace émergente pour le droit d'auteur...

Extrait :

Dans une réponse à une demande de l'Office of the US Trade Representative, la Recording Industry Association of America a indiqué que les sites Web de musique alimentés par l'intelligence artificielle (IA) qui réalisent des remixes, améliorent des morceaux faits maison ou dépouillent les chansons de leurs voix nuisent aux artistes. Songmastr, l'une des plateformes mentionnées promet de "masteriser" n'importe quelle chanson en se basant sur le style d'artistes connus tels que Beyonce, Taylor Swift, Coltrane, Bob Dylan, James Brown et bien d'autres. Bien que le service de Songmastr soit un peu plus avancé, la RIAA considère qu'il s'agit clairement d'une infraction.

[Tugdual]

Israël déploie des armes assistées par l'IA :

• pour traquer des cibles en Cisjordanie...

[Tugdual]

Les deepfakes non autorisés de célébrités :

• commencent à apparaître dans les publicités...

[Tugdual]

Un tableau de Renoir authentifié :

• par une intelligence artificielle...

Extrait :

Art Recognition a donc utilisé les reproductions photographiques de 206 authentiques tableaux de Renoir pour nourrir son algorithme et lui apprendre à identifier avec une précision toute mathématique le style du maître impressionniste, tout en l'opposant à des tableaux d'artistes au style similaire ayant été actifs à la même époque. L'algorithme en a conclu que le Portrait de femme (Gabrielle) avait 80,58% de chances d'avoir été effectivement peint par Renoir.

Le jeu d'apprentissage me semble quand même bien léger pour entraîner une IA...

[Tugdual]

Lanius, l'effrayant drone assassin, urbain et autonome :

• de l'israélien Elbit...

Extrait :

Ainsi, et comme le relate The War Zone, la firme a présenté un drone baptisé Lanius et qui ressemble fort à l'objet vidéoludique décrit ci-dessus.

Lanius est un petit drone facilement portable et simple à déployer, conçu pour évoluer dans les tous petits espaces urbains –voire dans les bâtiments. Par souci de manœuvrabilité, il a été basé sur ce qui se fait dans le domaine des drones sportifs et de course, taillés pour les voltiges les plus serrées.

[...]

D'un poids maximal de 1,25 kg, capable d'atteindre une vitesse de pointe de plus de 70 km/h et une vitesse opérationnelle maximale de 20 m/s, il n'est capable que d'une autonomie de sept minutes –il est donc conçu pour les missions au près.

Plus spécifiquement, et comme le montre une vidéo de présentation on ne peut plus claire sur les objectifs variables de la chose, Lanius est un drone assassin: doté d'une charge explosive (ou éventuellement d'une arme non létale, sans que cette dernière ne soit d'ailleurs précisée), il permet de pénétrer furtivement un petit espace, de le cartographier intégralement, de trouver une cible et de faire exploser sa charge à sa proximité immédiate.

Une cible que le drone, grâce à l'intelligence artificielle et un processeur NVIDIA Jetson TX2 aura potentiellement déterminée lui-même: Lanius n'est pas qu'assassin, il est autonome. L'autonomie est un domaine –hautement discutable pour d'évidentes raisons– qu'Israel explore tous azimuts, avec notamment une tourelle automatique (mais encore non armée) récemment installée en Palestine.

[Tugdual]

Meta crée une IA qui peut jouer au jeu de stratégie Diplomacy :

• et serait capable de tromper les joueurs humains...

Extrait :

Meta, la société mère de Facebook, a présenté mardi Cicero, un agent d'IA qui serait capable de jouer au jeu de stratégie classique Diplomacy à un niveau comparable à celui de la plupart des joueurs humains. L'équipe de Cicero la présente comme une IA qui négocie, persuade et coopère avec les gens en se basant sur le langage naturel. Il s'agit d'une réalisation importante dans le domaine du traitement du langage naturel (TLN), car le jeu exige des compétences approfondies en matière de négociation interpersonnelle, ce qui implique que Cicero a acquis une certaine maîtrise du langage nécessaire pour gagner la partie.