[Index] Intelligence artificielle

Pour les gens qui ont simplement envie de discuter sans souhaiter faire passer d'information particulière.
Message
Auteur
Avatar du membre
Mizunotama
Assidu
Messages : 233
Enregistré le : mercredi 13 janvier 2021 à 19:37

Re: [Index] Intelligence artificielle

#586 Message par Mizunotama » jeudi 12 janvier 2023 à 19:35

Un strip humoristique sur ChatGPT (les développeurs comprendront) :
https://www.commitstrip.com/fr/2022/12/ ... new-world/?
Diagnostiqué TSA sans déficience intellectuelle le 12/08/2022

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#587 Message par Tugdual » jeudi 12 janvier 2023 à 20:48

De quoi ChatGPT :
Spoiler : ▮▶ : 
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
freeshost
Intarissable
Messages : 36714
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Intelligence artificielle

#588 Message par freeshost » vendredi 13 janvier 2023 à 0:23

"Bande de cons, vous auriez pu faire phi d'Idriss Aberkane !" :lol: :lol: :lol:
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

Diagnostiqué autiste en l'été 2014 :)

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#589 Message par Tugdual » vendredi 13 janvier 2023 à 10:48

CNET publie discrètement des articles entiers :
Extrait :
CNET, un média d'information technologique populaire, a discrètement utilisé l'aide d'une technologie d'automatisation sur une nouvelle vague d'articles explicatifs financiers, apparemment à partir de novembre de l'année dernière. En l'absence de toute annonce ou couverture officielles, il semble que cela ait été repéré pour la première fois par le spécialiste du marketing en ligne Gael Breton dans un tweet mercredi.

Également...

Le site tech CNET a laissé ChatGPT écrire des articles :
Modifications :
  • 14/01/2023 : Ajout d'un lien.
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#590 Message par Tugdual » samedi 14 janvier 2023 à 11:48

Science Étonnante :
Spoiler : ▮▶ : 
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#591 Message par Tugdual » samedi 14 janvier 2023 à 13:34

Les résumés d'articles générés par ChatGPT :
Extrait :
ChatGPT peut générer de faux résumés d'articles de recherche si convaincants que les scientifiques sont souvent incapables de les repérer, selon une prépublication sur le serveur bioRxiv fin décembre. Les chercheurs sont divisés sur les implications pour la science.

[...]

« Je suis très inquiète », déclare Sandra Wachter, qui étudie la technologie et la réglementation à l'Université d'Oxford, au Royaume-Uni, et n'a pas participé à la recherche. « Si nous sommes maintenant dans une situation où les experts ne sont pas en mesure de déterminer ce qui est vrai ou non, nous perdons l'intermédiaire dont nous avons désespérément besoin pour nous guider à travers des sujets compliqués », ajoute-t-elle.

[...]

Depuis sa sortie, les chercheurs se sont attaqués aux problèmes éthiques entourant son utilisation, car une grande partie de sa production peut être difficile à distinguer du texte écrit par l'homme.

C'est peut-être l'une des raisons qui a motivé la décision de l'International Conference on Machine Learning (ICML), l'une des conférences sur l'apprentissage automatique les plus prestigieuses au monde, qui a interdit aux auteurs d'utiliser des outils d'IA comme ChatGPT pour rédiger des articles scientifiques. L'ICML a déclaré : « Les articles qui incluent du texte généré à partir d'un modèle de langage à grande échelle (LLM) tel que ChatGPT sont interdits à moins que le texte produit ne soit présenté dans le cadre de l'analyse expérimentale de l'article ».

[...]

Filigrane (à venir)

En plus d'aborder le problème comme les détecteurs de plagiat l'ont fait dans le passé, OpenAI tente de résoudre le problème en filigranant tout le texte ChatGPT. Selon une récente conférence sur la sécurité de l'IA par le chercheur invité d'OpenAI, Scott Aaronson, les ingénieurs ont déjà construit un prototype fonctionnel qui ajoute un filigrane à tout texte créé par OpenAI.

« Fondamentalement, chaque fois que GPT génère un texte long, nous voulons qu'il y ait un signal secret autrement imperceptible dans ses choix de mots, que vous pouvez utiliser pour prouver plus tard que, oui, cela vient de GPT », explique Aaronson. L'outil utiliserait ce qu'il appelle une « fonction cryptographique pseudo-aléatoire ». Et seul OpenAI aurait accès à cette clé.
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#592 Message par Tugdual » samedi 14 janvier 2023 à 17:38

« 5 IA surpuissantes », par Science4All :
Spoiler : ▮▶ : 
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#593 Message par Tugdual » samedi 14 janvier 2023 à 18:13

« Google a empoisonné la communauté scientifique », par Science4All :
Spoiler : ▮▶ : 
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#594 Message par Tugdual » samedi 14 janvier 2023 à 20:08

« TikTok :la télécommande magique de Xi », par Science4All :
Spoiler : ▮▶ : 
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#595 Message par Tugdual » dimanche 15 janvier 2023 à 10:18

Galactica, la nouvelle démo de Meta AI :
Extrait :
Le 15 novembre passé, Meta a dévoilé un nouveau grand modèle de langage appelé Galactica, conçu pour aider les scientifiques. Mais au lieu d'atterrir avec le big bang que Meta espérait, Galactica s'est éteint après trois jours de critiques intenses. Selon un rapport du MIT Technology Review, Meta a retiré la démo publique qu'elle avait encouragé tout le monde à essayer le 17 novembre.

Le faux pas de Meta - et son orgueil démesuré - montre une fois de plus que les grandes entreprises technologiques sont aveugles aux graves limitations des grands modèles de langage. De nombreuses recherches mettent en évidence les défauts de cette technologie, notamment sa tendance à reproduire les préjugés et à affirmer que des faussetés sont des faits.

Les grands modèles de langage (LLM), tels que le GPT-3 d'OpenAI, apprennent à écrire des textes en étudiant des millions d'exemples et en comprenant les relations statistiques entre les mots. Ils peuvent ainsi rédiger des documents à l'apparence convaincante, mais ces travaux peuvent également être truffés de faussetés et de stéréotypes potentiellement dangereux.

Entrez dans Galactica, un LLM destiné à la rédaction de littérature scientifique. Ses auteurs ont entraîné Galactica sur « un vaste corpus de connaissances scientifiques de l'humanité », comprenant plus de 48 millions d'articles, de manuels et de notes de cours, de sites Web scientifiques et d'encyclopédies. D'après l'article de Galactica, les chercheurs de Meta AI pensaient que ces prétendues données de haute qualité conduiraient à des résultats de haute qualité. Meta présentait le modèle comme « une nouvelle interface pour accéder et manipuler ce que nous savons de l'univers. »

Si certaines personnes ont trouvé la démo prometteuse et utile, d'autres ont rapidement découvert que n'importe qui pouvait taper des invites racistes ou potentiellement offensantes, générant tout aussi facilement du contenu faisant autorité sur ces sujets. Par exemple, quelqu'un l'a utilisé pour créer une entrée wiki sur un article de recherche fictif intitulé « Les avantages de manger du verre pilé ».
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
freeshost
Intarissable
Messages : 36714
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Intelligence artificielle

#596 Message par freeshost » lundi 16 janvier 2023 à 23:19

Tugdual a écrit : samedi 14 janvier 2023 à 13:34 Les résumés d'articles générés par ChatGPT : (...)
Its name is CheatGhostlyPerformedText3, and it is not the last one.
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

Diagnostiqué autiste en l'été 2014 :)

Avatar du membre
freeshost
Intarissable
Messages : 36714
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Intelligence artificielle

#597 Message par freeshost » mardi 17 janvier 2023 à 0:22

Je viens de partager ici (=> Algorithmes) quelques premiers fichiers sur nos premiers questionnements et nos premières réactions sur les modèles de langage, comme ChatGPT. :mrgreen:

[Je devrai mettre à jour les fichiers pdf.]
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

Diagnostiqué autiste en l'été 2014 :)

Avatar du membre
freeshost
Intarissable
Messages : 36714
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Intelligence artificielle

#598 Message par freeshost » mardi 17 janvier 2023 à 16:09

ChatGPT est modèle spéculatif basé sur les nombreuses informations dont il s'est nourri, ce qui ne l'empêche pas de dire des faussetés :

- citer une étude mais dire des choses qui n'y correspondent pas ;
- répéter des faussetés dont il s'est nourri ;
- etc.

C'est comme un perroquet stochastique qui, avec ses millions (plus tard milliards, billons, billards, etc.) de paramètres, peut donner l'illusion d'être un devin, une voyante, un être humain. On retrouve un peu cette illusion dans Les Schtroumpfs et le livre qui dit tout (lire aussi sur Fr.Wikipedia.Org). :mrgreen: En plus, dans cet album, le livre est à court d'énergie et doit se recharger. Tous ces ordinateurs et ces logiciels puissants (watt = Joule / seconde) utilisent beaucoup d'électricité. Est-ce vraiment ce que nous voulons ?
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

Diagnostiqué autiste en l'été 2014 :)

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#599 Message par Tugdual » jeudi 19 janvier 2023 à 13:51

DeepMind, la filiale de Google spécialisée dans l'IA, annonce qu'elle lancera bientôt :
Extrait :
Le PDG de DeepMind, Demis Hassabis, a déclaré que la société envisageait de lancer son propre chatbot, appelé Sparrow, en bêta privée au cours de l'année. Présenté comme une potentielle réponse de Google à ChatGPT, le chatbot de DeepMind promet d'être un assistant d'IA plus sûr et plus avancé que son rival. Sparrow a été présenté au monde l'année dernière comme une preuve de concept dans un document de recherche qui le décrit comme un "agent conversationnel utile et réduisant le risque de réponses toxiques et inappropriées".
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 40107
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#600 Message par Tugdual » jeudi 19 janvier 2023 à 20:21

Derrière ChatGPT :
Extrait :
Une vaste enquête du magazine TIME, publiée le 18 janvier 2023, révèle comment OpenAI, la société créatrice du programme, a mobilisé, via un sous-traitant, des travailleurs kényans rémunérés 2 dollars de l’heure. Dans des conditions de travail, qui plus est, traumatisantes.

Si OpenAI a fait appel à ces travailleurs, c’est pour rendre ChatGPT moins « toxique », c’est-à-dire éviter qu’il puisse vous répondre des textes racistes, homophobes, violents. Leur rôle était de modérer, en amont, ce risque. Mais à quel prix ?

[...]

OpenAI et Sama ont passé trois contrats d’une valeur totale de 200 000 dollars. Dans son pôle au Kenya, l’entreprise a construit trois groupes, d’une douzaine de personnes chacun, se répartissant trois thèmes principaux : abus sexuels, discours de haine, violence. Ces employés étaient payés entre 1,32 et 2 dollars de l’heure pour cette labellisation. Ils devaient analyser environ 150 à 250 bribes de texte, de 100 à 1 000 mots par bride, par journée de neuf heures.

[...]

Sama a nié en partie les accusations de ces témoignages auprès du TIME.

[...]

Malgré tout, l’enquête du TIME révèle que la « nature traumatisante du travail » a finalement conduit Sama à mettre fin à sa collaboration OpenAI en février 2022, « huit mois plus tôt que prévu ».
TCS = trouble de la communication sociale (24/09/2014).

Répondre