[Index] Intelligence artificielle

Pour les gens qui ont simplement envie de discuter sans souhaiter faire passer d'information particulière.
Message
Auteur
lucius
Prolifique
Messages : 2495
Enregistré le : lundi 27 mars 2017 à 17:14

Re: [Index] Intelligence artificielle

#631 Message par lucius » vendredi 27 janvier 2023 à 15:39

Tugdual a écrit : jeudi 26 janvier 2023 à 18:28 Je pense au contraire comme Lê qu'on sous-réagit.

On parle ici d'une technologie dont les problèmes de fond (sécurité, biais, etc) sont ignorés par les experts du domaine, et qui va être déployée partout...
On disait aussi cela pour le deep learning et les deep fakes comme une menace pour l'information. Pour l'heure je n'ai pas vu grand chose.
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.

Avatar du membre
Tugdual
Modérateur
Messages : 40098
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#632 Message par Tugdual » vendredi 27 janvier 2023 à 15:50

lucius a écrit : vendredi 27 janvier 2023 à 15:24 Je n'y crois pas trop. [...]
Je n'y crois pas non plus.

En plus, je pense qu'il y a une espèce de fascination face à l'IA, et même les gens qui connaissent un peu le domaine et ses dangers ont envie de voir l'IA progresser...


lucius a écrit : vendredi 27 janvier 2023 à 15:39 On disait aussi cela pour le deep learning et les deep fakes comme une menace pour l'information. Pour l'heure je n'ai pas vu grand chose.
Je n'en tire pas les mêmes conclusions.

C'est le même domaine, qui est encore loin d'être mature, et ces alertes étaient bien conscientes d'annoncer un danger futuriste.

Le souci est que les progrès de ce domaine sont immenses et rapides, avec un fort potentiel de progression : avec ces progrès, le danger prend juste de la consistance...
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
piedsboueux
Prolifique
Messages : 1776
Enregistré le : mardi 3 mai 2016 à 16:35
Localisation : CILAOS
Contact :

Re: [Index] Intelligence artificielle

#633 Message par piedsboueux » vendredi 27 janvier 2023 à 16:01

Le bouquin des Schtroumpfs a finalement fini dans la rivière, il fallait nager avec soit le livre soit le bébé, et malgré que la réponse qu'il suggérait de "sauver le livre plutôt que sauver bébé-Schtroumpf" ...

https://vk.com/topic-203785966_47436711
Diagnostiqué Aspi vers 37 ans (2007)
le reste c'est 100 intérêts

lucius
Prolifique
Messages : 2495
Enregistré le : lundi 27 mars 2017 à 17:14

Re: [Index] Intelligence artificielle

#634 Message par lucius » vendredi 27 janvier 2023 à 16:03

C'est le grand problème du principe de précaution. On se focalise tellement sur les risques que l'on est incapable de voir les bienfaits. Je dis cela en tant que personne ayant une maladie. On est si frileux à financer ou tenter des solutions nouvelles que l'on propose des médicaments vieux de 30 ans au lieu de proposer des médicaments modernes plus efficaces existants. Ces vents de panique et d'inquiétude sont un frein à la recherche (médicale, scientifique, technologique...).

Lorsque l'on a mis en place le Grand collisionneur de hadrons, des scientifiques (dont des illustres) craignaient la création de micro-trous noirs. Même chose avec le RHIC qui aurait pu provoquer la fin du monde selon certains.
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.

Avatar du membre
Tugdual
Modérateur
Messages : 40098
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#635 Message par Tugdual » vendredi 27 janvier 2023 à 16:33

Cela n'a rien à voir avec le principe de précaution.

Le principe de précaution, c'est mettre des interdictions en place alors qu'on a aucun risque avéré.

Ici, les risques sont avérés, en théorie (c'est le domaine de recherche de Lê, dont il parle en partie dans ses vidéos), comme en pratique : utilisation de ChatGPT par des revues, des étudiants (et même déjà ici sur le forum), utilisation de l'Autopilot de Tesla en version Beta sur la voie publique, ce genre de choses...
TCS = trouble de la communication sociale (24/09/2014).

lucius
Prolifique
Messages : 2495
Enregistré le : lundi 27 mars 2017 à 17:14

Re: [Index] Intelligence artificielle

#636 Message par lucius » vendredi 27 janvier 2023 à 16:41

Le principe de précaution consiste non pas à des interdictions mais à prendre des dispositifs anticipatifs de gestion de risques si on manque d'infos (et de certitudes) sur les dommages potentiels.

Là, certains sont partis dans le scénario du pire exigeant la version extrême du principe de précaution: le précautionnisme.
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.

lucius
Prolifique
Messages : 2495
Enregistré le : lundi 27 mars 2017 à 17:14

Re: [Index] Intelligence artificielle

#637 Message par lucius » vendredi 27 janvier 2023 à 16:53

Principe de précaution selon la déclaration de Rio:
En cas de risque de dommages graves ou irréversibles, l'absence de certitude scientifique absolue ne doit pas servir de prétexte pour remettre à plus tard l'adoption de mesures effectives visant à prévenir la dégradation de l'environnement.
En France
Selon lequel l’absence de certitudes, compte tenu des connaissances scientifiques et techniques du moment, ne doit pas retarder l’adoption de mesures effectives et proportionnées visant à prévenir un risque de dommages graves et irréversibles à l’environnement, à un coût économiquement acceptable
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.

lucius
Prolifique
Messages : 2495
Enregistré le : lundi 27 mars 2017 à 17:14

Re: [Index] Intelligence artificielle

#638 Message par lucius » vendredi 27 janvier 2023 à 17:01

Tugdual a écrit : vendredi 27 janvier 2023 à 16:33 Ici, les risques sont avérés, en théorie (c'est le domaine de recherche de Lê, dont il parle en partie dans ses vidéos), comme en pratique : utilisation de ChatGPT par des revues, des étudiants (et même déjà ici sur le forum), utilisation de l'Autopilot de Tesla en version Beta sur la voie publique, ce genre de choses...
Comme si les étudiants ne pompaient pas sur wikipédia! C'était déjà annoncé comme un risque avéré à l'époque.
Et il faut distinguer risques majeurs et mineurs.
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.

Avatar du membre
Tugdual
Modérateur
Messages : 40098
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Intelligence artificielle

#639 Message par Tugdual » vendredi 27 janvier 2023 à 18:54

lucius a écrit : vendredi 27 janvier 2023 à 17:01 Comme si les étudiants ne pompaient pas sur wikipédia! C'était déjà annoncé comme un risque avéré à l'époque.
Encore une fois, ça n'a rien à voir.

Pomper sur Wikipedia ou ailleurs, c'est reproduire toujours la même chose (ce qui pourra être repéré assez facilement), là où ChatGPT produit un texte unique à chaque appel...
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
freeshost
Intarissable
Messages : 36714
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Intelligence artificielle

#640 Message par freeshost » vendredi 27 janvier 2023 à 18:56

Ce qui est avéré, c'est que nous déléguons de plus en plus de tâches aux logiciels. :mrgreen:
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

Diagnostiqué autiste en l'été 2014 :)

lucius
Prolifique
Messages : 2495
Enregistré le : lundi 27 mars 2017 à 17:14

Re: [Index] Intelligence artificielle

#641 Message par lucius » vendredi 27 janvier 2023 à 19:37

Tugdual a écrit : vendredi 27 janvier 2023 à 18:54
lucius a écrit : vendredi 27 janvier 2023 à 17:01 Comme si les étudiants ne pompaient pas sur wikipédia! C'était déjà annoncé comme un risque avéré à l'époque.
Encore une fois, ça n'a rien à voir.

Pomper sur Wikipedia ou ailleurs, c'est reproduire toujours la même chose (ce qui pourra être repéré assez facilement), là où ChatGPT produit un texte unique à chaque appel...

À l'époque, les profs étaient très inquiets sur cela.
Je tombais sur des reportages 3 à 4 fois par semaine et des articles des inquietudes des dangers de wikipedia comme des articles non sourcés. Il y a encore des problèmes avec wikipedia (comme une femme en chine qui a inventé des articles sur des trucs qui n'existent pas).

Soyons clair.. Chatgpt est un outil. Il n'est pas dangereux en soi.Mais si on s'en sert mal, c'est fâcheux mais cela ne va pas provoquer la fin de la civilisation. Durant mes cours d'IA, on ne cessait de m'alerter sur les dangers de certaines technologies. Je ne les ai pas vu pour l'heure poser un grave problème. Mais la techno vit sans cesse l'hypothèse de la reine rouge. À la moindre évolution, il y a une évolution parallèle pour concurrencer ou se maintenir dans la compétition.

J'ai pu voir des exemples de l'usage de ChatGPT dans des questions de cours (en anglais) pour expliquer à des ados ou des étudiants des concepts (design pattern observer, à quoi sert une équation différentielle, expliquer la différence entre poids et masse... ) ou des notions de manière plus simple afin de démarrer. C'était génial mais encore très perfectible. En France, on a un enseignement très encyclopédique avec l'apprentissage par cœur de concepts sans les comprendre. Il n'y avait pas tout le blabla qui perd les néophytes au début.
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.

lucius
Prolifique
Messages : 2495
Enregistré le : lundi 27 mars 2017 à 17:14

Re: [Index] Intelligence artificielle

#642 Message par lucius » vendredi 27 janvier 2023 à 19:40

freeshost a écrit : vendredi 27 janvier 2023 à 18:56 Ce qui est avéré, c'est que nous déléguons de plus en plus de tâches aux logiciels. :mrgreen:
C'est en même temps normal, on nous confie plus de tâches ou nos activités se complexifient sans cesse.

On a des exigences de plus en plus fortes mais on ne peut les réaliser seuls. Exemple: l'état de la circulation en temps réel.
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.

Avatar du membre
freeshost
Intarissable
Messages : 36714
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Intelligence artificielle

#643 Message par freeshost » vendredi 27 janvier 2023 à 19:43

Et la consommation d'électricité a augmenté sans cesse.

Au niveau écologique, est-il raisonnable de vouloir des logiciels toujours plus puissants ?
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

Diagnostiqué autiste en l'été 2014 :)

lucius
Prolifique
Messages : 2495
Enregistré le : lundi 27 mars 2017 à 17:14

Re: [Index] Intelligence artificielle

#644 Message par lucius » vendredi 27 janvier 2023 à 19:46

freeshost a écrit : vendredi 27 janvier 2023 à 19:43 Et la consommation d'électricité a augmenté sans cesse.

Au niveau écologique, est-il raisonnable de vouloir des logiciels toujours plus puissants ?
Rien ne vous interdit de retourner sur Windows 3.11! :D

Mais là pour cet objectif on doit retourner vers une approche low code ou no code pour le green IT ou le green computering.
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.

Avatar du membre
freeshost
Intarissable
Messages : 36714
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Intelligence artificielle

#645 Message par freeshost » vendredi 27 janvier 2023 à 19:54

Je vais rester avec Ubuntu. :lol:
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

Diagnostiqué autiste en l'été 2014 :)

Répondre