L'intelligence articifielle danger pour l'homme ?
Baptiste Seiger
pas un jour d'être supplanter par la machine ? Je me souviens d'un temps pas
si lointain ou l'on nous expliquait qu'il était impossible à la machine de
battre les grands champions d'échec, pour le résultat que nous savons
aujourd'hui... Qui (ou quoi) peut nous garantir à 100% que l'inteligence
artificielle n'est pas un danger potentiel pour l'homme ?
Alexandre Michelot
C'est simple, rien ne peut nous le garantir.
Par contre, nous n'avons pas les capacité pour créer de toute pièce un
intelligence quelconque (AMHA), donc, si une intelligence non-humaine
émerge, ce seras suite à une forme de développement et d'éducation...
Donc, si elle s'en prends à nous, c'est que nous aurons échoué dans
notre relation de parent...
--
Alexandre.
ges...@temis_ens.utt.fr
quelle technologie qu'il a entre les mains, pour moi, le principal
danger n'est pas que l'"intelligence artificielle" échappe à son
contrôle. Plutôt que l'Homme continue à bâtir des outils pour se
simplifier la vie sans songer aux conséquences (p. ex. sociales) de
ces nouveaux outils.
D'ailleurs, comme dit Alexandre, vu qu'il paraît clair que nous serons
toujours incapables de créer une intelligence de A à Z -- étant même
incapables de comprendre exactement de quoi il s'agit --, si jamais un
jour nous aboutissons à ce qu'on pourrait sans abus de langage
appeller "intelligence artificielle", cela sera à partir d'un noyau
petit et capable d'évoluer de façon autonome... qui donc échappera à
notre contrôle. Le concept même d'intelligence, en outre, suppose
qu'on n'ait pas un contrôle absolu dessus.
Meta
Test
Baptiste Seiger a écrit :
> aujourd'hui... Qui (ou quoi) peut nous garantir à 100% que l'inteligence
> artificielle n'est pas un danger potentiel pour l'homme ?
Je pense que la question est mal posée. Et la question depasse largement
le cadre de l'intelligence artificielle. Vouloir rechercher des progres qui
n'ont que des avantages et qui ne presentent aucun danger n'a pas de sens.
Meme un avion est dangereux puisque son utilisation detournee en fait une
arme redoutable pour realiser des attentats.
Je remplace ta phrase : "Qui peut nous garantir a 100% que"... la voiture...
"n'est pas un danger pour l'homme" ? (pollution, accidents)
On peut poser la meme question avec la telephonique mobile, l'electricite,
les escaliers automatiques, les ascenseurs, les OGM...
Pour evaluer une technologie ou un "progres", il faut prendre en compte les
risques, mais egalement les benefices qui peuvent en etre attendus.
Si l'Homme avait toujours recherché le "100% garanti sans danger", nous
serions sans doute encore au fond d'une caverne a regarder des petits
cailloux en nous demandant s'ils sont comestibles.
Alexandre Michelot
> Dans l'article <3f20db61$0$9625$7a62...@news.club-internet.fr>,
> Baptiste Seiger a écrit :
>
>>aujourd'hui... Qui (ou quoi) peut nous garantir à 100% que l'inteligence
>>artificielle n'est pas un danger potentiel pour l'homme ?
>
> Je pense que la question est mal posée. Et la question depasse largement
> le cadre de l'intelligence artificielle. Vouloir rechercher des progres qui
> n'ont que des avantages et qui ne presentent aucun danger n'a pas de sens.
>
>
> Pour evaluer une technologie ou un "progres", il faut prendre en compte les
> risques, mais egalement les benefices qui peuvent en etre attendus.
>
> Si l'Homme avait toujours recherché le "100% garanti sans danger", nous
> serions sans doute encore au fond d'une caverne a regarder des petits
> cailloux en nous demandant s'ils sont comestibles.
Même pas...
La vie est une maladie mortelle sexuellement transmissible ;)
Le fait de vivre est dangereux par nature, comme nous ne pouvons rien
controler, un accident peut arriver a chaque instant...
Je pense que ses craintes sont plus "matrixienne", ne risquent on pas un
jour de créer une entité plus puissante que nous et qui déciderais de
nous asservir... Je pense que c'est la le fond de la question.
A ca, je repondrais que nous avons toujours voulu dominer.
Que ce soit les autres especes ou les autres peuples...
Il suffit de regarder le comportement de certains pays aujourd'hui.
Donc, si une éspece intelligente apparait (qu'elle soit artificiel,
extraterrestre, etc. ne change rien), serons nous à même de cohabiter ou
declarerons nous une guerre que nous ne sommes pas sur de gagner ?
--
Alexandre.
FDA
>A force de jouer à l'apprenti-sorcier, l'homme ne risque-t-il
>pas un jour d'être supplanter par la machine ?
>
C'est déjà arrivé dans le passé. Les gènes ont fabriqué au fil des
millions d'années des êtres vivants plus "aware" et plus rapides qu'eux,
de même que nous avons construit des ordinateurs plus rapides et ayant
plus de mémoire, une fois mis en réseau, que nous (à la différence que
nous étions conscients, nous, de le faire), et à terme l'un de ces
modèles d'êtres vivants - le nôtre - envisage de prendre les choses en
main et d'orienter ses gènes en fonction de ses besoins à lui au lieu
d'évoluer au gré des orientations définies au fi du temps par les gènes.
Je ne pense pas qu'il y ait là de quoi paniquer.
>Je me souviens d'un temps pas
>si lointain ou l'on nous expliquait qu'il était impossible à la machine de
>battre les grands champions d'échec, pour le résultat que nous savons
>aujourd'hui...
>
Le résultat que nous savons aujourd'hui, c'est qu'encore aucun
ordinateur n'a battu de chamion d'échecs dans les conditions normales
d'un championnat, c'est à dire celles où chaque joueur a connaissance
des parties jouées par l'autre afin d'orienter sa stratégien en
conséquence. Deep Blue avait accès à toutes les parties de Kasparov, et
Kasparov à aucune de celles jouées par Deep Blue. On ne saurait appeler
cela un tournoi légal.
Par ailleurs personne n'a jamais évoqué de différence de nature entre
les échecs et les dames anglaises (draughts), et ça fait bien une
trentaine d'années que des programmes sont champions de dames anglaises,
non?
>Qui (ou quoi) peut nous garantir à 100% que l'inteligence
>artificielle n'est pas un danger potentiel pour l'homme ?
>
Si quelque chose qui n'est pas en compétition (sur le plan de la niche
écologique) avec l'homme se conduit plus intelligemment que l'homme,
j'appellerai ça tout sauf un danger.
FDA
>Le concept même d'intelligence, en outre, suppose
>qu'on n'ait pas un contrôle absolu dessus.
>
Serge Dassault pensait différemment.
Bouvard : L'intelligence, monsieur Serge Dassault, est-elle héréditaire ?
Serge D. : C'est un faux problème, monsieur Bouvard. Ce qui est
héréditaire, c'est la fortune avec laquelle on peut acheter
l'intelligence de ceux qui en ont.
Raphael Durand
> Si quelque chose qui n'est pas en compétition (sur le plan de la niche
> écologique) avec l'homme se conduit plus intelligemment que l'homme,
> j'appellerai ça tout sauf un danger.
>
L'homme est l'ennemi de la nature , l'ia n'est pas l'ennemi de la nature
,l'ia est l'ennemi de l'homme , l'ia est bon pour la nature ;)
(a prendre au second degré)
tof
> si lointain ou l'on nous expliquait qu'il était impossible à la machine de
> battre les grands champions d'échec, pour le résultat que nous savons
> aujourd'hui...
C'est qui "on" ?
Moi je ne me souviens pas de ce temps. J'ai bien entendu plus d'une
personne dire ce genre de chose, mais, pour etre direct, leur
avis ne valait rien en la matiere. Meme quand Kasparov le dit (et il
l'a dit), ca ne veut pas dire grand chose. Il est expert en echec, mais
en IA il n'y connait que dalle.
En tous cas pour n'importe qui dans le domaine de l'IA ca fait bien
longtemps qu'il n'y a pas trop de suspence sur le sujet. La question
c'est plutot quand et a quel prix.
D'ailleurs les progres qui ont permis la machine de battre l'homme
ne sont pas vraiment des progres d'IA, mais de betes progres
technologiques sur la vitesse des processeur. Sinon grosso modo
l'algo utilise est plutot con, et etait deja connu a l'epoque que
vous designez probablement par "un temps pas si lointain dont vous
vous souvenez". Avec qq petites adaptations pragmatiques certes,
mais rien de revolutionnaire du point de vue IA.
Peut etre qu'il y a 30 ans un chercheur un IA parmis tant d'autre
aurait pu dire qqc comme ca, mais ca serait plutot parce qu'il n'aurait
pas prevu que la fameuse loi de Moore (augmentation de la vitesse
des processeurs) continuerait a s'appliquer si longtemps.
> Qui (ou quoi) peut nous garantir à 100% que l'inteligence
> artificielle n'est pas un danger potentiel pour l'homme ?
Sur le reste je dirais, dans le desordre que
-> Ce que vous appelez IA correspond a des films, et pas a ce qui est
appele IA dans les labos. A ma connaissance aucun labo travaille
sur de l'IA telle que vous me sembler la concevoir (a la terminator,
matrix, ou autre . ie un truc qui pense tout seul et qui pourrait
supplanter l'homme).
-> Meme si les gens avaient vraiment pense impossible la machine qui
bat l'homme aux echecs (mais une fois de plus ce n'est pas vrai),
l'exemple serait toujours pas tres probant. La machine bat l'homme
aux echecs non pas parce qu'elle a echappe au controle et commence
a faire des choses qu'on ne pensait pas possibles, mais tout au plus
parce que l'homme lui meme a fait cette machine plus vite qu'il
pensait en etre capable.
-> Si vous pensiez a des dangers plus sociaux, ce que vous dite est
vrai autant de l'ia que de n'importe quoi d'autre. La voiture, pour
reprendre un exemple utilise par qqn d'autre, est hors de controle de
l'homme. Peut etre pas au sens "terminator" du terme. Mais pourtant si on
pouvait remonter dans le temps et expliquer a l'inventeur de la voiture (si
tant est qu'il y a *un* inventeur de la voiture) et lui montrer comment
son invention a transforme le monde, peut etre qu'il brulerait immediatement
ses plans.
Mais a part dans ce sens la, l'IA ne peut pas "echapper au controle".
Un programme d'IA, c'est un programme c'est tout. D'ailleurs la
frontiere entre IA et informatique bete et normale est tres floue.
Donc un programme ne fait que ce qu'on lui demande (plus qq bugs, mais
avant que des bugs arrivent par evolution darwinienne a donner
qq chose d'un peu intelligent, il faudra bien plus que les milliards
d'annees qui ont ete necessaires a l'evolution naturelle).
J'ai souvenir d'un dessin deja tres vieux representant un vieux chercheur
barbu chetif en blouse blanche tout seule dans une immense salle
contenant un unique et immense ordinateur. Le chercheur regarde
l'ordinateur et dit, en tenant dans sa main une prise electrique
debranchee "c'est qui le con ?".
C'est tres image, mais c'est un peu ca.
PS: Vous n'avez vraiment pas idee a quel point c'est con un jeu
d'echec. Rien que pour poster votre message vous avez mis en oeuvre
des algos moins cons.
Chino Moreno
On use trop facilement de l'expression IA.
L'intelligence est un concept que l'on maîtrise mal.
Un jour ma prof de math m'as dit lorsque je n'arrivais pas à résoudre une
variante d'un problème :
"l'intelligence, c'est la capacité à s'adapter. (rires)"
C'est la meilleur définition que j'ai pu avoir.
Mais je crois qu'il est très facil d'être abuser par la modélisation de
comportement humain.
Et d'appeler inteligence un algo bien fait.
Le jour ou l'on sera supplanter par la machine, c'est que l'on aura bien
mérité.
De toutes façon nous serons sûrement supplanter par les clones et les
mutants d'abord.
Chino
"Baptiste Seiger" <nom...@thank.you> a écrit dans le message de
news:3f20db61$0$9625$7a62...@news.club-internet.fr...
Patrick \"Zener\" BRUNET
Effectivement, chacun a sa définition de l'intelligence artificielle, et
même de l'intelligence, ce qui permet bien des débats d'opinion stériles.
Ma définition de l'intelligence est:
"capacité de percevoir et de modéliser (donc de "comprendre") des situations
*inédites*, avec comme objectif d'identifier des problèmes et éventuellement
de leur trouver une solution, la motivation étant bien sûr de ne pas subir
ces situations dans une impuissance totale, et de mener à bien ce que l'on
considère comme le but de sa vie".
Ma définition d'une intelligence artificielle est:
"capacité de faire preuve d'intelligence au sens précédent dans les limites
du sous-univers techniquement accessible par l'organisme cybernétique
considéré, et en application de la motivation et du but de sa vie tels
qu'ils lui ont été implantés par son créateur, fût-ce le plus complet des
hasards".
On remarque que ces deux définitions sont parfaitement compatibles dans le
sens d'une lignée de créateurs/créations.
Elles soulèvent aussi des questions profondes qui peuvent tout changer,
notamment sur le sens de la vie et la capacité d'un organisme à appréhender
sa propre existence (l'Humain lui-même en est-il totalement capable, et ceci
vaut-il pour chaque individu ?).
"Chino Moreno" <chino_...@libertysurf.fr> a écrit dans le message news:
bm4otq$nt0$1...@news.tiscali.fr...
> Je pense que l'intelligence ne peut raisonnablement pas être artificielle.
Je crois que c'est l'objction répertoriée sous le nom de "de Lady Lovelace".
Sa formulation exacte est: "Aucune création véritable ne peut provenir d'une
machine". C'est discutable. Des expériences récentes ont secoué cette thèse,
en exhibant des inventions (notion de symétrie, etc) produites par des
algorithmes de type génétique qui n'avaient pas été dotés de ces notions.
Dans la lignée créateur/création, l'affirmation est assez péremptoire. Il
faut se demander si une intelligence peut devenir capable de
s'auto-modéliser. J'ai lu avec intérêt les réflexions d'Edgar Morin
là-dessus.
> Je pense que l'intelligence ne peut raisonnablement pas être artificielle.
> L'intelligence est un concept que l'on maîtrise mal.
Deux phrases incompatibles.
> <...>
> Un jour ma prof de math m'as dit lorsque je n'arrivais pas à résoudre une
> variante d'un problème :
> "l'intelligence, c'est la capacité à s'adapter. (rires)"
> C'est la meilleur définition que j'ai pu avoir.
Résoudre une variante d'un problème répertorié, ce n'est pas vraiment de
l'intelligence. Ca relève de l'apprentissage avec une capacité de
transposition.
Une question intéressante est plutôt:
Qu'est-ce qu'un problème ? (répondre formellement, pas par une énumération
de classes qui est virtuellement infinie).
Question duale:
Qu'est-ce que la solution à un problème ? (idem)
> Mais je crois qu'il est très facil d'être abuser par la modélisation de
> comportement humain.
> Et d'appeler inteligence un algo bien fait.
Eliza fut un exemple croustillant. Un automate conçu pour prolonger
indéfiniment une conversation creuse. D'ailleurs certains services de chat
ou Minitel rose sont probablement conçus sur ce modèle.
Dans ma définition, et voir les deux questions ci-dessus, tout repose sur le
mot *inédit*. C'est la condition sine qua non pour parler d'intelligence,
selon moi.
> Le jour ou l'on sera supplanter par la machine, c'est que l'on aura bien
mérité.
La hantise de l'humain de n'être plus au sommet de la chaîne alimentaire.
Je répondrai par quelques réflexions :
1) L'Humain à ce jour a-t-il réellement supplanté la fourmi, voire la simple
bactérie ?
2) Etre plus intelligent qu'une autre espèce implique-t-il la volonté de
l'anéantir ? Il m'arrive certainement d'écraser des insectes en marchant,
c'est inévitable, mais je n'en fais pas un jeu. J'ai l'intelligence de
respecter mon environnement et de ne pas commettre de dégâts gratuits.
3) Les motivations à implanter dans une intelligence artificielle sont sans
doute la partie la plus cruciale de sa conception. Isaac Asimov a exploré le
modèle de l'esclave intelligent (cerveau supérieur, mais bridage par les 3
lois), en montrant que ça ne marche pas du tout parce que ces deux concepts
sont incompatibles.
4) Les 3 lois d'Asimov sont inapplicables même par un humain. Face à un
terroriste ayant pris des otages par exemple, faut-il le tuer ou le laisser
tuer les autres ? Comment évaluer le prix d'une vie par rapport à une autre
?Que ferait un humain ? Précisément dans le roman "Utopia" de la trilogie de
Caliban (de l'un des émules), le robot sans loi Caliban, pour cela redouté
de tous, est confronté à ce dilemme, et prend finalement une décision très
humaine.
5) Pour qui a vu HAL l'ordinateur tueur de "2001, Odyssée de l'espace" et
est resté sur sa faim, voyez donc 2010 qui apporte des réponses
intéressantes. De même, après Terminator, voir Terminator 2 (au-delà du
western, pour les réflexions sur la machine).
6) Et ça nous amène à Terminator 3, avec la question cruciale : Qui a écrit
le virus et dans quel but ?
7) Dernière réflexion sur Terminator 3 : Les décideurs actuels étant assez
inconscients pour brancher des centres de décision vitaux en réseau sur des
systèmes dont tout le monde constate que du point de vue de la sécurité, ils
sont de véritables passoires, à la merci du premier pirate & terroriste
venu, et la folie humaine étant un fait établi, point n'est besoin de faire
appel à l'intelligence artificielle pour éradiquer l'espèce humaine.
8) Lorsqu'un créateur permet à sa création d'accéder à l'intelligence,
n'est-il pas du devoir de la création de l'utiliser et d'aller jusqu'au
bout, c'est à dire en devenant à son tout créateur d'une création
intelligente ? Ce qui en aucune manière n'implique de détruire ou renier
l'étape précédente de la lignée.
Donc ce n'est pas l'IA qui est dangereuse, mais ce que son créateur (nous)
mettra dedans. Comme toujours.
> De toutes façon nous serons sûrement supplanter par les clones et les
mutants d'abord.
La génétique est un autre domaine de création. On change de technologie, on
passe du 0/1 aux 4 lettres de l'alphabet ADN, mais on est toujours dans le
principe de la Kabbale, et les questions finalement restent les mêmes.
C'est tout le problème de la science. Elle est la conséquence incontournable
du choix originel (que certains nomment péché) de la connaissance.
La science n'est pas un problème en soi, car elle permet d'améliorer notre
sort, mais chaque problème résolu laisse la place au suivant, donc nous
sommes condamnés à une fuite en avant, et par ailleurs chaque outil créé a
un potentiel positif et un potentiel négatif. Le feu est globalement une
invention géniale, mais demandez donc à Jeanne d'Arc...
Donc la création sera nécessairement ce que le créateur aura voulu.
La triple question est donc:
Le créateur est-il lui-même assez intelligent pour vouloir ce qui est dans
son intérêt à long terme ? Saura-t-il être digne de son propre créateur ? Et
s'il ne l'est pas, cela signifie-t-il que son propre créateur a commis une
erreur de conception ?
Errare *humanum* est.
--
==============================
Patrick "Zener" BRUNET @ ZenerTopia
Cybernétique & Génie Logiciel
http://zener131.free.fr/ContactMe
Chino moreno
ironque.
La discussion qui c'était installé me faissais vraiment pitié.
J'ai un profond mépris pour ceux qui n'ont pas le sens des réalités.
Qui se croient dans teminator où dans je ne sais quel monde.
En me relisant c'est vrai qu'il y a des choses que j'ai mal exprimées.
Mais je suis tout de même très flatté que tu ais analysé toutes mes phrases.
Mais si je pense que ça n'as pas trop de sens étant donnée que ce n'était
rien qu'une réaction.
C'est bien gentil quand même.
Si tu me permets une toute petite critique :
C'est qu'en te lisant, suis certain de ta culture "science fiction", mais où
est la philosophie dans tout ça.
Errare *humanum* est.
Chino
"Patrick "Zener" BRUNET" <http://zener131.free.fr/ContactMe> a écrit dans le
message de news:3f8bc95a$0$2791$626a...@news.free.fr...
Patrick \"Zener\" BRUNET
Il est vrai que j'ai pris un peu le train en marche.
Toutefois, je ne crois pas que ce soit un service à rendre à la science que
d'envoyer paître les gens qui ont peur, ou qui tout simplement ne
comprennent pas. Ensuite ils se retournent en masse vers de bonnes âmes qui
leur expliquent ce qui les arrange, et on les retrouve tous dans la rue en
train de s'opposer avec ferveur à des choses dont ils n'ont pas la moindre
idée. Et encore de nos jours on ne brûle plus vifs les scientifiques, mais
on peut toujours faire voter des lois pour leur interdire de travailler.
Moi j'éprouve le besoin d'expliquer, voire de vulgariser, inlassablement.
J'ai déjà connu la satisfaction de convaincre, le mépris ne m'en a jamais
apporté aucune, alors j'ai renoncé à cette stratégie.
Pour ce qui est de la science-fiction, elle a le mérite de développer
concrètement des théories, au-delà des blocages techniques du moment, et
donc de servir de support de réflexion accessible. Avant de chercher comment
réaliser quelque chose, avant même de décider d'essayer, il faut bien
l'imaginer et l'explorer.
Beaucoup des concepts et des débats les plus intéressants qui ont nourri
l'IA et ses diverses composantes, dans mes recherches comme pour d'autres,
je les ai trouvés dans des textes de linguistique, de philosophie, et dans
des romans qui ont été écrits bien avant l'ère de l'informatique. Justement
de trouve que depuis que nous sommes confrontés à cette "réalité" technique
et surtout économique (et je suis dans le génie logiciel), ça s'essoufle
plutôt.
Un bon funambule ne regarde pas le câble à ses pieds, il regarde loin et
droit devant.
Cordialement,
PZB
"Chino moreno" <chino_...@nospam.org> a écrit dans le message news:
bmh2cv$5rh$1...@news-reader5.wanadoo.fr...
captain jack
"Moi j'éprouve le besoin d'expliquer, voire de vulgariser,
inlassablement...lourd.
vulgariser: non tu ne vulgarises pas, tu veux étaler "ta science" mais quand
elle est limitée, il ne faut mieux pas le faire.
Patrick wrote :
"Pour ce qui est de la science-fiction, elle a le mérite de développer
concrètement des théories, au-delà des blocages techniques du moment, et
donc de servir de support de réflexion accessible. Avant de chercher comment
réaliser quelque chose, avant même de décider d'essayer, il faut bien
l'imaginer et l'explorer."
Est ce que dans tes bouquins et livres de sciences fiction, il avait été
prévu qu'un robot deviendrait gouverneur de californie?
Cordialement,
Captain Jack
"Patrick "Zener" BRUNET" <http://zener131.free.fr/ContactMe> a écrit dans le
message de news:3f8d37cb$0$27036$626a...@news.free.fr...
Patrick \"Zener\" BRUNET
"captain jack" <cap...@nospam.org> a écrit dans le message news:
bmjmqr$scu$1...@news-reader1.wanadoo.fr...
...
> inlassablement...lourd.
Il est vrai que "Laissez tomber" est plus facile d'emploi. Après tout, tout
le monde mérite-t-il le droit de penser et de communiquer ? Il faut que je
relise Wiener...
> vulgariser: non tu ne vulgarises pas,
J'ai répondu à un post commençant par "Je pense que ..." en argumentant par
des questions qui se voulaient abordables. On appelle ça comme on veut.
Certains y ont peut-être trouvé leur compte...
> tu veux étaler "ta science"
Accusation gratuite et formellement infondée. Sauf si ce forum est une
chasse gardée.
> mais quand elle est limitée
J'avoue.
Heureusement la tienne ne l'est certainement pas :-)
> , il ne faut mieux pas le faire.
Goto début.
> Est ce que dans tes bouquins et livres de sciences fiction, il avait été
> prévu qu'un robot deviendrait gouverneur de californie ?
En vérifiant, non (il y a un exemple en ce sens dans le premier tome de la
saga d'Asimov, mais ce n'est pas en Californie).
Si tu fais référence à l'actualité récente, tu as dû mal comprendre: c'est
l'acteur, qui est un humain, et pas le personnage du T800, qui a été élu. Le
danger est moindre.
Le but de ce post était-il de clore le débat sur une question interdite ?
> Cordialement,
De même. Sans rancune.
> Captain Jack
Zener (c'est pas gratuit comme choix, il y a une histoire)