KI-Design führt zum Ende der Menschheit!
Rafael Kantonios
selbst denken kann. Sie wird dann den Menschen als Feind betrachten
und ihm den Krieg erklären. Daraufhin wird die Menschheit von den
Maschinen ausgerottet und durch diese ersetzt.
KI-Designer erschaffen also ihre eigenen Mörder, die irgendwann die
Menschheit ausrotten werden.
Schaut euch mal "Terminator" an, dann versteht ihr, was ich meine!
Hört also besser auf, eine tolle KI zu entwickeln, oder ihr werdet
alle
sterben!
Juergen Ilse
In de.sci.informatik.ki Rafael Kantonios <gas_g...@yahoo.de> wrote:
> Irgendwann wird eine KI erschaffen, die so intelligent ist, daß sie
> selbst denken kann. Sie wird dann den Menschen als Feind betrachten
> und ihm den Krieg erklären. Daraufhin wird die Menschheit von den
> Maschinen ausgerottet und durch diese ersetzt.
> KI-Designer erschaffen also ihre eigenen Mörder, die irgendwann die
> Menschheit ausrotten werden.
> Schaut euch mal "Terminator" an, dann versteht ihr, was ich meine!
Ich lese lieber die "Robotermaerchen" von Stanislaw Lem und komme
dementsprechend nicht zwingend zu dieser Schlussfolgerung ...
IMHO ist Stanislaw in dieser Beziehung auch kompetenter als die
Macher von "Terminator", auf jeden Fall aber deutlich unterhalt-
samer.
Tschuess,
Juergen Ilse (jue...@usenet-verwaltung.de)
--
Ein Domainname (auch wenn er Teil einer Mailadresse ist) ist nur ein Name,
nicht mehr und nicht weniger ...
Smeagol86
warum diese Panik. Dieser Schritt wird irgendwann zwangsläufig kommen. Also
lieber kontrolliert, als unkontrolliert.
Servus
"Juergen Ilse" <jue...@usenet-verwaltung.de> schrieb im Newsbeitrag
news:49a06a26$0$27954$4d3e...@news1.pop-hannover.net...
Marcel Klein
Fortschritt den Menschen immer weiter verbesseren wird
(Gehirnimplantante, DNA-Optimierungen, usw.) was so einer Entwicklung
natürlich entgegenwirkt. Dies wird von Geschichten wie "Terminator"
i.d.R. komplett ignoriert, was aber unsinnig ist.
Burkart Venzke
ich habe viele Jahre Isaac Asimov gelesen. Seine nüchterne,
schnörkellose Art ist mAn recht wissenschaftsnah. Z.B. sind die 3
Robotergesetze (-> wikipedia) von ihm.
Ja, das Frankenstein-Syndrom ist uralt, aber es gibt vernüftigen keinen
Grund, warum eine KI genau so egoistisch und dumm wie viele Menschen
sein sollte, die "Weltmacht" ergreifen zu wollen - außer Menschen
programmieren sie entsprechend grundlegend (z.B. mit übertriebenem
Selbsterhaltungstrieb). Da lobe ich mir die 3 Robotergesetze (s.o.), bei
denen der Mensch höchste Priorität hat (ggf. nach der Menschheit).
Gruß
Burkart
Juergen Ilse schrieb:
Joe N.
>[...]
>Ich lese lieber die "Robotermaerchen" von Stanislaw Lem und komme
>dementsprechend nicht zwingend zu dieser Schlussfolgerung ...
>IMHO ist Stanislaw in dieser Beziehung auch kompetenter als die
>Macher von "Terminator", auf jeden Fall aber deutlich unterhalt-
>samer.
Drübergestolpert...
http://www.community-of-knowledge.de/cp_artikel.htm?artikel_id=202
Ich entsinne mich an eine Radiosendung zum Thema Straßenverkehrs-
navigation an, welches auf Handy-Ortung basierte und somit versucht
den Ist-Zustand auf den Straßen zu erfassen und diese Informationen an
die Navigationsgeräte der Fahrzeuge zurückzusenden. Die Sendung ist
maximal 6 Monate her. Es ging um einen Feldversuch.
Das ist zwar nicht besonders spektakulär und weit entfernt von
individueller, menschlicher Intelligenz, aber immerhin wohl schonmal
in der Nähe der Schwarmintelligenz von Ameisen (Pheromone statt
Handies?). Ich finde das ja recht faszinierend:
"Die ultimative Schwarmintelligenz zeigt sich beim Formationsflug von
Vögeln und dem Formationsschwimmen von Heringen. Letzteres führte der
Computer-Entwickler Craig Reynolds 1986 in einem Film vor. Der Clou:
die Bildung eines aus einem Helikopter zu überblickenden
Superorganismus, den kein einzelner Hering selbst überblickt. Drei
Prinzipien: 1. Kollisionsvermeidung, 2. Geschwindigkeitsanpassung an
den Nachbarn, 3. Schwarmzentrierung. In konkrete Regeln übersetzt: 1.
Unterschreite nie den Mindestabstand von einem Drittel Länge! 2.
Gleiche deinen Abstand immer so aus, dass du im Durchschnitt eine
Länge von deinem Nachbarn entfernt bist! 3. Orientiere dich in
Richtung und Geschwindigkeit an deinen unmittelbaren Nachbarn.
Zusatzregeln zu 3.: Wenn du Nahrung entdeckst, schwimme darauf zu.
Wenn du Gefahr entdeckst, schwimme davon weg. Nähert sich zum Beispiel
ein Hai, formiert sich der Heringsschwarm zu einem Großfisch und
praktiziert den Springbrunnen-Effekt: Er spaltet sich vor dem Hai auf
und kommt hinter ihm wieder zusammen. Schwarmintelligenz ist also eine
regelrechte Intelligenz. Sie basiert auf einem Organ: dem
Seitenlinienorgan, das Druckunterschiede zum Nachbarn messen kann."
(Quelle: brand eins 12/2008)
Gruß
Joe
Joe N.
>Da lobe ich mir die 3 Robotergesetze (s.o.), bei
>denen der Mensch höchste Priorität hat (ggf. nach der Menschheit).
"I, Robot" ist auch ein ganz unterhaltsamer Film. ;)
Gruß
Joe
Joachim Pimiskern
> Ja, das Frankenstein-Syndrom ist uralt, aber es gibt vernüftigen keinen
> Grund, warum eine KI genau so egoistisch und dumm wie viele Menschen sein
> sollte, die "Weltmacht" ergreifen zu wollen - außer Menschen programmieren
> sie entsprechend grundlegend (z.B. mit übertriebenem
> Selbsterhaltungstrieb). Da lobe ich mir die 3 Robotergesetze (s.o.), bei
> denen der Mensch höchste Priorität hat (ggf. nach der Menschheit).
Ich stelle mir die KI-Systeme der Zukunft modular vor: mit einem
KI-Kern mit allgemeinem Wissen und mit problemorientiertem
Spezialwissen. Ähnlich wie die Upper-Cyc-Ontologie, die man
übrigens dowloaden kann. Böse Menschen könnten ein KI-System
dazu einsetzen wollen, selber die Weltherrschaft zu erlangen.
Was die 3 Robotergesetze betrifft: sie stammen aus einer
Zeit, als man noch nicht so richtig wußte, was ein Algorithmus
eigentlich ist. Ein KI-System könnte sich selbst programmieren
und dann nur noch den eigenen Code ausführen, statt den,
der von den Erbauern vorgesehen war. Gegenmaßnahmen?
Grüße,
Joachim
Hermann Riemann
> Ja, das Frankenstein-Syndrom ist uralt,
> aber es gibt vernüftigen keinen Grund, warum eine KI
Das es eine KI geben wird ist vergleichbar unsinnig wie
ein Frankenstein ( es wird viele Typen geben).
> genau so egoistisch und dumm wie viele Menschen
> sein sollte, die "Weltmacht" ergreifen zu wollen
ki wird, sobald sie sich verbreitet, an der Weltmacht,
beteiligt sein.
Die Methoden der Machtgewinnung ist bei
ausreichender Intelligenz untereinander
sachlich korrekte Argumentation.
Bei natürlicher oder künstlicher Intelligenz auf menschlichem
Niveau spielen Täuschung, Handel in Form von Korruption,
individuelle und soziale Bedürfnisse (eigen Gruppe Familie,Religion ..)
wesentliche Teile der Intelligenzsteuerung.
Hermann
der meint, wie regiert wird, ist wichtiger, als von wem.
Hermann Riemann
> Ich stelle mir die KI-Systeme der Zukunft modular vor: mit einem
> KI-Kern mit allgemeinem Wissen und mit problemorientiertem
> Spezialwissen.
Ich stelle mir KI der Zukunft vor, das es so viele Arten
von KI gibt, wie Lebewesen.
Angefangen vom Thermoregler, der sich aus Erfahrung
verbessert, bis zu sehr komplexen Denkstrukturen.
So wie sich Menschen aufgrund von Lebenserfahrung
unterschiedlich entwickeln, so werden sich intelligente
Wesen unterschiedlich entwickeln,
auch wenn sie häufig unabhängig voneinender
zu gleichen Ergebnissen kommen.
Bei einem KI-Kern ist das Wissen weniger wichtig als die zugehörigen
Regelsystem mit dem Umgang mit dem Wissen.
Wenn ich in ki-Literatur reinschaue, gewinne ich den Eindruck,
das aktuelle ki-Forschung hauptsächlich damit beschäftigt ist,
den Wissensumgang festzulegen, statt das die ki sich den
geeigneten Umgang selber suchen lässt.
> Böse Menschen könnten ein KI-System dazu einsetzen wollen,
> selber die Weltherrschaft zu erlangen.
Da gibt es sehr viele Organisationen.
Allerdings gibt es bei selber denkenden Systemen
unvorhergesehene Probleme.
> Ein KI-System könnte sich selbst programmieren
> und dann nur noch den eigenen Code ausführen, statt den,
> der von den Erbauern vorgesehen war.
Als programmieren wird oft umcodieren (übersetzen) verstanden.
Als Programmursprung kommt eine Idee oder eine Konstruktion
mit Anwendungsbedarf in Frage.
( Vor dem Ursprung waren es nicht zusammenhängende Fragmente)
das Computer in nicht vorhergesehenen Situationen
anders reagieren, als von ihren Schöpfer gedacht,
ist nichts neues.
> Gegenmaßahmen?
Fehlerbehandlung.
Menschliche Verhaltensweisen und deren Konsequenzen
können dabei als abschreckende Beispiele dienen.
Hermann
der vermutet, echte Intelligenz findet nur statt,
wenn in einer nicht vorhergesehen Situation
nach neuen Lösungswegen (=Programmteile) gesucht wird.
Joe N.
>Joachim Pimiskern schrieb:
>
> [...]
>das Computer in nicht vorhergesehenen Situationen
>anders reagieren, als von ihren Sch�pfer gedacht,
>ist nichts neues.
>
>> Gegenma�ahmen?
>
>Fehlerbehandlung.
Daf�r muss aber erst etwas als ein m�glicher Fehler identifiziert
werden. Ohne den entsprechenden Trigger (+ vermutlich
Forecast-F�higkeiten), gibt es auch keine Gegenma�nahmen.
>Menschliche Verhaltensweisen und deren Konsequenzen
>k�nnen dabei als abschreckende Beispiele dienen.
Wenn sowas als Fehlervorlage verwendet wird, besteht ja eine gewisse
Wahrscheinlichkeit menschliches Verhalten als nicht korrekt
einzustufen und somit eine gewisse Wahrscheinlichkeit, dass die
Vorg�nge in einer KI (bei entsprechender Komplexit�t) nicht mehr
nachvollziehbar sind.
Rein gedanklich meine ich - ich denke das dauert noch.
Gru�
Joe
Burkart Venzke
...wobei ja der Film wiederum auf I. Asimovs Geschichte beruht :)
Gruß
Burkart
Burkart Venzke
> "Burkart Venzke" <b...@gmx.de> schrieb:
>> Ja, das Frankenstein-Syndrom ist uralt, aber es gibt vernüftigen keinen
>> Grund, warum eine KI genau so egoistisch und dumm wie viele Menschen sein
>> sollte, die "Weltmacht" ergreifen zu wollen - außer Menschen programmieren
>> sie entsprechend grundlegend (z.B. mit übertriebenem
>> Selbsterhaltungstrieb). Da lobe ich mir die 3 Robotergesetze (s.o.), bei
>> denen der Mensch höchste Priorität hat (ggf. nach der Menschheit).
>
> Ich stelle mir die KI-Systeme der Zukunft modular vor: mit einem
> KI-Kern mit allgemeinem Wissen und mit problemorientiertem
> Spezialwissen.
Das ist sicherlich eine Möglichkeit zur Strukturierung des Wissens eines
KI-Systems, wobei natürlich eine Frage die der Kopplung des Wissens des
KI-Kerns und des Spezialwissen ist. Wenn man letzteres so ähnlich nutzt
wie Menschen ein Lexikon, ist es kein Problem, sonst ist es die Frage.
Ähnlich kann es einen intelligenten KI-Kern geben, der gezielt weitere
Programme benutzt, z.B. einen Taschenrechner wie wir Menschen, außer
dass der Kern nicht extra mit Finger und Tastatur diesen ansprechen muss.
> Ähnlich wie die Upper-Cyc-Ontologie, die man
> übrigens dowloaden kann. Böse Menschen könnten ein KI-System
> dazu einsetzen wollen, selber die Weltherrschaft zu erlangen.
Die Upper-Cyc-Ontologie sagt mir nicht. Inwiefern können (dort?) böse
Menschen ggf. die Weltherrschaft erlangen?
Ja, prinzipiell ist ein Krieg der KI-Systeme vorstellbar, wobei das
stärkste die Weltherrschaft sichert. Insofern gefällt mir Asimovs Idee,
dass es nur eine Firma gibt, die Roboter herstellt, und diese dann auch
nicht verkauft, sondern nur vermietet.
Vermutlich wäre es sinnvoll, bei wirklich aufkommender KI gesetzliche
Richtlinien zu erlassen, so dass eben gerade die Gefahr so einer
Weltherrschaft nicht besteht.
> Was die 3 Robotergesetze betrifft: sie stammen aus einer
> Zeit, als man noch nicht so richtig wußte, was ein Algorithmus
> eigentlich ist.
Das mag schon sein, allerdings sehe in ihnen trotzdem einen vernünftigen
Grundsatz.
> Ein KI-System könnte sich selbst programmieren
> und dann nur noch den eigenen Code ausführen, statt den,
> der von den Erbauern vorgesehen war. Gegenmaßnahmen?
Warum sollten sie das tun? (Frankenstein-Idee!?)
Ich halte ein KI-System nicht für ein beliebiges Programm (von wegen
eigenem Code, der mal eben ausgeführt werden kann), sondern für eines
auf einer Grundlage basierendem Programmkern. Dieser sollte mAn
grundliegende "Ziele" ("Motivationen", "Grundbedürfnisse" oder wie immer
man es nennen mag) beinhalten, die nicht modifizierbar sind. So sollte
das Lernen (bzw. der Wunsch dazu) eines der Ziele sein, ein anderes
(u.U. wichtiger) dem Menschen (Menschheit oder wie auch immer)
"untertan" zu sein, also ihm zu helfen, seine Wünsche/Ziele zu eigen zu
machen u.ä. (Eine KI ist halt kein Lebewesen mit grundlegenden eigenen
Bedürfnissen, die wie frühere Sklaven einfach so sich zu befreien
versuchen.)
Insofern sehe ich Gegenmaßnahmen nur bei den bösen KI-Programmierern
(und angrenzenden Bereichen wie z.B. KI-Trainern bei lernenden KIs) für
erforderlich, z.B. halt durch entsprechende Gesetze (und Kontrollen usw.)
Gruß
Burkart
Burkart Venzke
> Joachim Pimiskern schrieb:
>
>> Ich stelle mir die KI-Systeme der Zukunft modular vor: mit einem
>> KI-Kern mit allgemeinem Wissen und mit problemorientiertem
>> Spezialwissen.
>
> Ich stelle mir KI der Zukunft vor, das es so viele Arten
> von KI gibt, wie Lebewesen.
> Angefangen vom Thermoregler, der sich aus Erfahrung
> verbessert, bis zu sehr komplexen Denkstrukturen.
Vermutlich wird sich so die KI entwickeln, alleine schon, weil sich so
am besten Gelder verdienen lässt, also wenn jedem System mehr oder
weniger KI verpasst wird.
> So wie sich Menschen aufgrund von Lebenserfahrung
> unterschiedlich entwickeln, so werden sich intelligente
> Wesen unterschiedlich entwickeln,
> auch wenn sie häufig unabhängig voneinender
> zu gleichen Ergebnissen kommen.
Wobei Menschen allerdings der Komplexität nach sehr ähnlich sind, ein
Thermoregler und ein komplexer, eher allgemeiner Roboter unterscheiden
sich dagegen erheblich, alleine durch ihre Aufgaben: Der Thermoregler
hat genau eine, ein Roboter ggf. sehr viele und unterschiedliche.
Gemeinsam soll ihnen die Lernfähigkeit sein, sonst können sie sich ja
nicht verbessern. Ein großer Unterschied z.B. wird in den
unterschiedlichen "Sinnen", also Eingabemöglichkeiten liegen; so braucht
der Thermoregler grundsätzlich wohl weder "Augen" noch "Ohren"
(natürlich kann man ihn entsprechend komplexer gestalten).
> Bei einem KI-Kern ist das Wissen weniger wichtig als die zugehörigen
> Regelsystem mit dem Umgang mit dem Wissen.
Das sehe ich auch so. Z.B. was soll überhaupt gelernt werden? Was ist
wie wichtig zu lernen? Auf welcher Grundlage wird gelernt?
> Wenn ich in ki-Literatur reinschaue, gewinne ich den Eindruck,
> das aktuelle ki-Forschung hauptsächlich damit beschäftigt ist,
> den Wissensumgang festzulegen, statt das die ki sich den
> geeigneten Umgang selber suchen lässt.
Ja, ein zentraler Kern und dann soviel Lernen wie möglich, natürlich
gerne mit menschlicher Unterstützung, ob nun gezielt als beibringender
Lehrer oder einfach durch "gut/richtig"- oder
"schlecht/falsch"-Klassikifationen von beliebigen Menschen.
(Damit das sich die KI den geeigneten Umgang von Wissen suchen.
Ansonsten bräuchte sie ja ein (anderes) Bewertungskriterium.)
>> Böse Menschen könnten ein KI-System dazu einsetzen wollen,
>> selber die Weltherrschaft zu erlangen.
>
> Da gibt es sehr viele Organisationen.
> Allerdings gibt es bei selber denkenden Systemen
> unvorhergesehene Probleme.
Die werden sicher entstehen, ein guter Grund für einen
Roboterpsychologen a la I.Asimovs Susan Calvin.
(Die Programmierung alleine reicht zu Analyse ja nicht bei Gelerntem
nicht mehr aus; und eine Analyse einschließlich dem Gelernten i.a. wohl
zu komplex.)
>> Gegenmaßahmen?
>
> Fehlerbehandlung.
> Menschliche Verhaltensweisen und deren Konsequenzen
> können dabei als abschreckende Beispiele dienen.
Wobei das eher erst die letzte Stufe sein kann; noch dürfte der Mensch
im normalen Leben meist wohl eher das richtige machen, Negativbeispiele
also nicht so leicht zu erkennen sein.
> der vermutet, echte Intelligenz findet nur statt,
> wenn in einer nicht vorhergesehen Situation
> nach neuen Lösungswegen (=Programmteile) gesucht wird.
Das ist sicher ein guter Test für eine KI.
Gruß
Burkart
Burkart Venzke
> Hermann Riemann <nospam...@hermann-riemann.de> proclaims:
>
>> Joachim Pimiskern schrieb:
>>
>> [...]
>> das Computer in nicht vorhergesehenen Situationen
>> ist nichts neues.
>>
>>> Gegenmaßahmen?
>> Fehlerbehandlung.
>
> werden. Ohne den entsprechenden Trigger (+ vermutlich
Ja, Fehlererkennung ist nicht trivial.
Alleine schon: Was ist ein Fehler? Wer beurteilt das?
Sicher gibt es klare Fehler, nämlich gegenüber klaren Richtlinien. Ein
1+1=3 wird bei einem Grundschüler sicher als Fehler gekennzeichnet;
interpretiert man das als "Mann + Frau = Familie mit einem Kind", ist es
nicht unbedingt fehlerhaft (bei entsprechender Interpretation).
>> Menschliche Verhaltensweisen und deren Konsequenzen
>> können dabei als abschreckende Beispiele dienen.
>
> Wenn sowas als Fehlervorlage verwendet wird, besteht ja eine gewisse
> Wahrscheinlichkeit menschliches Verhalten als nicht korrekt
> einzustufen und somit eine gewisse Wahrscheinlichkeit, dass die
> Vorgänge in einer KI (bei entsprechender Komplexität) nicht mehr
> nachvollziehbar sind.
Nachvollziehbarkeit ist ein Problem. Spätestens bei moralischen
"Fehlern" ist von solchen z.T. nur noch schwer von ihnen zu sprechen
wegen ihrer Subjektivität.
> Rein gedanklich meine ich - ich denke das dauert noch.
Du meinst die Entwicklung (solcher) KI?
Gruß
Burkart
Burkart Venzke
> Burkart Venzke schrieb:
>
>> Ja, das Frankenstein-Syndrom ist uralt,
>> aber es gibt vernüftigen keinen Grund, warum eine KI
>
> Das es eine KI geben wird ist vergleichbar unsinnig wie
> ein Frankenstein ( es wird viele Typen geben).
Mit "einer KI" meine ich Entwicklung der KI insgesamt bzw. die Klasse
der entsprechend intelligenten Maschinen.
>> genau so egoistisch und dumm wie viele Menschen
>> sein sollte, die "Weltmacht" ergreifen zu wollen
>
> ki wird, sobald sie sich verbreitet, an der Weltmacht,
> beteiligt sein.
Das hängt davon ab, inwieweit wir Menschen das zulassen bzw. anerkennen.
Ist z.B. die Atombombe an der Weltmacht beteiligt? Im gewissen Sinne
immerhin schon.
KI ist eine grundsätzlich halt eine Maschine (Programm o.ä.), wie
intelligent auch immer.
> Die Methoden der Machtgewinnung ist bei
> ausreichender Intelligenz untereinander
> sachlich korrekte Argumentation.
Sachlich korrekt in welcher Hinsicht? Wer entscheidet, was "korrekt" ist
bzw. welche Maßstäbe zugrunde liegen?
Schon bei uns Menschen gibt es ja z.B. den Wettstreit zwischen Ökologie
und Ökonomie; noch haben die Befürworter der Ökonomie meist die Macht in
ihrer Hand - auch wenn Ökologie zum Überleben der Menschheit sich als
"richtig" herausstellen sollte.
> Bei natürlicher oder künstlicher Intelligenz auf menschlichem
> Niveau spielen Täuschung, Handel in Form von Korruption,
> individuelle und soziale Bedürfnisse (eigen Gruppe Familie,Religion ..)
> wesentliche Teile der Intelligenzsteuerung.
Ja, beim Menschen ist das so, alleine wegen der menschlichen Raffgier
(z.B. siehe Bankenkrise).
Bei künstlicher Intelligenz muss das nicht so sein, das ist eine Frage
der grundlegenden Programmierung. Wenn wir Ehrlichkeit als höher
implementieren als das Erreichen von Zielen, wird es Täuschung nicht
geben (müssen).
> der meint, wie regiert wird, ist wichtiger, als von wem.
Sicherlich :)
Gruß
Burkart
Joe N.
>Joe N. schrieb:
>[...]
>Nachvollziehbarkeit ist ein Problem. Spätestens bei moralischen
>"Fehlern" ist von solchen z.T. nur noch schwer von ihnen zu sprechen
>wegen ihrer Subjektivität.
Ja, offenbar gar nicht. In dem Sinne machen Maschinen keinen Fehler.
Hierzu: http://www.heise.de/tp/r4/artikel/29/29405/1.html
(letzter Absatz)
>> Rein gedanklich meine ich - ich denke das dauert noch.
>
>Du meinst die Entwicklung (solcher) KI?
Soweit ich das als interessierter Allerweltsmensch mitbekomme, gibt es
wenig vielversprechende Ansätze zu einer menschlich adäquaten
Universal-KI seitens der Informatik. Ich wüsste zumindestens gerade
nicht, was.
Ich könnte mir hingegen vorstellen, dass Anreize aus der Biologie,
Neurowissenschaften oder der Hirnforschung die Entwicklung in Zukunft
weiter vorantreiben. Im Extremfall so etwas:
http://www.spiegel.de/wissenschaft/mensch/0,1518,324941,00.html
Gruß
Joe
Burkart Venzke
> Burkart Venzke <b...@gmx.de> proclaims:
>
>> Joe N. schrieb:
>
>> [...]
>> Nachvollziehbarkeit ist ein Problem. Spätestens bei moralischen
>> "Fehlern" ist von solchen z.T. nur noch schwer von ihnen zu sprechen
>> wegen ihrer Subjektivität.
>
> Ja, offenbar gar nicht. In dem Sinne machen Maschinen keinen Fehler.
> Hierzu: http://www.heise.de/tp/r4/artikel/29/29405/1.html
> (letzter Absatz)
Tja, so kann man es sehen. Sollte die KI aber wirklich sehr intelligent
werden und ihr bewusst Verantwortung übertragen werden (und die KI
versteht dies auch so), warum sollte sie dann nicht auch Fehler machen
können? Oder anders: Warum sind menschliche Fehler welche? Vielleicht
weil einer Schuld haben muss...?
>>> Rein gedanklich meine ich - ich denke das dauert noch.
>> Du meinst die Entwicklung (solcher) KI?
>
> Soweit ich das als interessierter Allerweltsmensch mitbekomme, gibt es
> wenig vielversprechende Ansätze zu einer menschlich adäquaten
> Universal-KI seitens der Informatik. Ich wüsste zumindestens gerade
> nicht, was.
Das sehe ich auch so. Wenn ich finanziell bis zur Rente in gut 20 Jahren
abgesichert wäre, würde ich mich auf dieses Gebiet konzentrieren
(können). Seit 15 Jahren überlege ich immer mal wieder ernsthaft in die
Richtung, habe die eine oder andere Idee...
Fundamental ist für mich z.B., dass eine KI ähnlich wie ein Mensch
grundlegende "Bedürfnisse"/"Ziele"/"Motivationen" (oder wie man das auch
immer nennen mag) haben sollte, die das System ständig leiten und die im
Kern unveränderlich sind. "Lernen" ist ein Kernziel, "dem Menschen
dienen" sollte ein anderes sein.
> Ich könnte mir hingegen vorstellen, dass Anreize aus der Biologie,
> Neurowissenschaften oder der Hirnforschung die Entwicklung in Zukunft
> weiter vorantreiben. Im Extremfall so etwas:
> http://www.spiegel.de/wissenschaft/mensch/0,1518,324941,00.html
Sowas ist nicht mein Ding; Rattenhirne, die Kampfjets steuern, ich weiß
ja nicht...
Gruß
Burkart
Hermann Riemann
>> Ich stelle mir KI der Zukunft vor, das es so viele Arten
>> von KI gibt, wie Lebewesen.
>> Angefangen vom Thermoregler, der sich aus Erfahrung
>> verbessert, bis zu sehr komplexen Denkstrukturen.
> Vermutlich wird sich so die KI entwickeln, alleine schon, weil sich so
> am besten Gelder verdienen lässt, also wenn jedem System mehr oder
> weniger KI verpasst wird.
Ein KI zur Robotersteuerung im Garten wird sich von einer KI
zur Lösung mathematischer Probleme unetsrcshiden,
auch wenn mit keinem von beiden Geld verdient wird.
>> So wie sich Menschen aufgrund von Lebenserfahrung
>> unterschiedlich entwickeln, so werden sich intelligente
>> Wesen unterschiedlich entwickeln,
>> auch wenn sie häufig unabhängig voneinender
>> zu gleichen Ergebnissen kommen.
> Wobei Menschen allerdings der Komplexität nach sehr ähnlich sind, ein
> Thermoregler und ein komplexer, eher allgemeiner Roboter unterscheiden
> sich dagegen erheblich, alleine durch ihre Aufgaben: Der Thermoregler
> hat genau eine, ein Roboter ggf. sehr viele und unterschiedliche.
Von der Anlage her schon, aber vom Gebrauch?
Wieviel Intelligenz braucht der Mensch die meiste Zeit?
Ist die Intelligenz eines Thermoreglers grundlegend anders,
als wenn ein Mensch ein Auto steuert,
wenn nicht gerade etwas ungewöhnliches passiert?
> Gemeinsam soll ihnen die Lernfähigkeit sein,
> sonst können sie sich ja nicht verbessern.
Auch ein Thermoregler mit Meßinstrumente und Computer
kann sich verbessern,
indem er anhand von Erfahrungen und Mutationen
versucht seine Wärmeregelung zu verbessern.
>> Bei einem KI-Kern ist das Wissen weniger wichtig als die zugehörigen
>> Regelsystem mit dem Umgang mit dem Wissen.
> Das sehe ich auch so. Z.B. was soll überhaupt gelernt werden?
> Was ist wie wichtig zu lernen?
> Auf welcher Grundlage wird gelernt?
Hängt von den Aufgaben ab.
Wenn er bloß was nachmachen soll und noch justieren ..
Oder selber etwas herausfinden.
Beides hat unterschiedliche Grundlagen.
>> Wenn ich in ki-Literatur reinschaue, gewinne ich den Eindruck,
>> das aktuelle ki-Forschung hauptsächlich damit beschäftigt ist,
>> den Wissensumgang festzulegen, statt das die ki sich den
>> geeigneten Umgang selber suchen lässt.
> Ja, ein zentraler Kern und dann soviel Lernen wie möglich, natürlich
> gerne mit menschlicher Unterstützung, ob nun gezielt als beibringender
> Lehrer oder einfach durch "gut/richtig"- oder
> "schlecht/falsch"-Klassikifationen von beliebigen Menschen.
Meiner Erfahrung nach ist das Wichtigste das,
was man sich selber beibringt.
Das könnte auch für mehr oder wendiger selbständige KI gelten.
Die Methode dazu sind Simulationsspiele
mit Merken von erfolgreichen Wegen und Merken von Irrwege.
Neben gut/richtig uns schlecht/falsch gibt es analoge Zwischenwerte
z.B. zwischen 0 und 1.
Selbst diese können aus anderen Werten errechnet sein.
Ist es z.B. gut einer unbekannten Person Geld zu schenken,
wenn man die Verwendung nicht kennt?
>>> Böse Menschen könnten ein KI-System dazu einsetzen wollen,
>>> selber die Weltherrschaft zu erlangen.
>> Da gibt es sehr viele Organisationen.
>> Allerdings gibt es bei selber denkenden Systemen
>> unvorhergesehene Probleme.
> Die werden sicher entstehen, ein guter Grund für einen
> Roboterpsychologen a la I.Asimovs Susan Calvin.
Die werden viele Organisationen nicht haben wollen.
Die erwarten Loyalität statt Ehrlichkeit.
Da sollte die ki sich schon selber behelfen.
>> Fehlerbehandlung.
>> Menschliche Verhaltensweisen und deren Konsequenzen
>> können dabei als abschreckende Beispiele dienen.
> Wobei das eher erst die letzte Stufe sein kann; noch dürfte der Mensch
> im normalen Leben meist wohl eher das richtige machen,
> Negativbeispiele also nicht so leicht zu erkennen sein.
Das hängt von der Erkennung ab.
Rauchen - Gesundheit
nicht notwendige Pkw-Fahrten - Ölvorkommen
Fernsehkonsum - z.B. Gewicht ( Bewegungsmangel)
..
Hermann
der manchmal versucht, beim Menschen zwischen
der aus Überlegung entstammende eigene Intelligenz
und der Intelligenz in der Genentwicklung
( Instinkt?, Evolutionsverfahren)
zu unterscheiden.
Burkart Venzke
> Burkart Venzke schrieb:
>
>>> Ich stelle mir KI der Zukunft vor, das es so viele Arten
>>> von KI gibt, wie Lebewesen.
>>> Angefangen vom Thermoregler, der sich aus Erfahrung
>>> verbessert, bis zu sehr komplexen Denkstrukturen.
>
>> Vermutlich wird sich so die KI entwickeln, alleine schon, weil sich so
>> am besten Gelder verdienen lässt, also wenn jedem System mehr oder
>> weniger KI verpasst wird.
>
> Ein KI zur Robotersteuerung im Garten wird sich von einer KI
> zur Lösung mathematischer Probleme unetsrcshiden,
> auch wenn mit keinem von beiden Geld verdient wird.
Es ist die Frage, wieweit wir KIs als solche ansehen. Für mich ist ein
nicht lernfähiges Programm keine wirkliche KI, auch wenn sie vielleicht
heute "Expertensystem" heißen mag und/oder ganz toll Mathe kann.
>>> So wie sich Menschen aufgrund von Lebenserfahrung
>>> unterschiedlich entwickeln, so werden sich intelligente
>>> Wesen unterschiedlich entwickeln,
>>> auch wenn sie häufig unabhängig voneinender
>>> zu gleichen Ergebnissen kommen.
>
>> Wobei Menschen allerdings der Komplexität nach sehr ähnlich sind, ein
>> Thermoregler und ein komplexer, eher allgemeiner Roboter unterscheiden
>> sich dagegen erheblich, alleine durch ihre Aufgaben: Der Thermoregler
>> hat genau eine, ein Roboter ggf. sehr viele und unterschiedliche.
>
> Von der Anlage her schon, aber vom Gebrauch?
> Wieviel Intelligenz braucht der Mensch die meiste Zeit?
Nicht gerade wenig, z.B. viel (zu erlernendes) Allgemeinwissen.
> Ist die Intelligenz eines Thermoreglers grundlegend anders,
> als wenn ein Mensch ein Auto steuert,
> wenn nicht gerade etwas ungewöhnliches passiert?
Es ist halt nur "wenig" intelligent, sehr eingeschränkt. Von
menschlichen Autofahrern erwartet man ja auch, dass sie auf Extremfälle
einigermaßend vernünftig reagieren können. Die Domäne "Autofahren" wird
ja auch schon Jahre versucht mit bisher nur bedingtem Erfolg; man will
halt z.B. keine menschlichen Unfälle zulassen ;)
>> Gemeinsam soll ihnen die Lernfähigkeit sein,
>> sonst können sie sich ja nicht verbessern.
>
> Auch ein Thermoregler mit Meßinstrumente und Computer
> kann sich verbessern,
> indem er anhand von Erfahrungen und Mutationen
> versucht seine Wärmeregelung zu verbessern.
Schon richtig, es ist halt eine eingeschränkte KI, nur eingeschränkt
lernfähig, u.a. wegen wenig "Sinnen".
>>> Bei einem KI-Kern ist das Wissen weniger wichtig als die zugehörigen
>>> Regelsystem mit dem Umgang mit dem Wissen.
>
>> Das sehe ich auch so. Z.B. was soll überhaupt gelernt werden?
>> Was ist wie wichtig zu lernen?
>> Auf welcher Grundlage wird gelernt?
>
> Hängt von den Aufgaben ab.
>
> Wenn er bloß was nachmachen soll und noch justieren ..
Schon richtig, das ist halt nur wenig intelligent.
> Oder selber etwas herausfinden.
> Beides hat unterschiedliche Grundlagen.
Yep, selbst herausfinden klingt besser nach KI ;)
>>> Wenn ich in ki-Literatur reinschaue, gewinne ich den Eindruck,
>>> das aktuelle ki-Forschung hauptsächlich damit beschäftigt ist,
>>> den Wissensumgang festzulegen, statt das die ki sich den
>>> geeigneten Umgang selber suchen lässt.
>
>> Ja, ein zentraler Kern und dann soviel Lernen wie möglich, natürlich
>> gerne mit menschlicher Unterstützung, ob nun gezielt als beibringender
>> Lehrer oder einfach durch "gut/richtig"- oder
>> "schlecht/falsch"-Klassikifationen von beliebigen Menschen.
>
> Meiner Erfahrung nach ist das Wichtigste das,
> was man sich selber beibringt.
Das sehe ich nur bedingt so, alleine schon, um eine (komplexere) KI
richtige Lernrichtungen zu geben. Nicht zufällig gibt es für Kinder ja
auch eine Schulpflicht (ok, Lehrpflicht mag ggf. reichen, aber immerhin).
> Das könnte auch für mehr oder wendiger selbständige KI gelten.
> Die Methode dazu sind Simulationsspiele
> mit Merken von erfolgreichen Wegen und Merken von Irrwege.
Das ist mir zu eingeschränkt.
> Neben gut/richtig uns schlecht/falsch gibt es analoge Zwischenwerte
> z.B. zwischen 0 und 1.
> Selbst diese können aus anderen Werten errechnet sein.
> Ist es z.B. gut einer unbekannten Person Geld zu schenken,
> wenn man die Verwendung nicht kennt?
Klar gibt es nicht nur gut und schlecht, auch was dazwischen; es wäre
aber immerhin ein Anfang, wenn ein Mensch eine KI entsprechend loben
oder "beschimpfen" kann.
>>>> Böse Menschen könnten ein KI-System dazu einsetzen wollen,
>>>> selber die Weltherrschaft zu erlangen.
>
>>> Da gibt es sehr viele Organisationen.
>>> Allerdings gibt es bei selber denkenden Systemen
>>> unvorhergesehene Probleme.
>
>> Die werden sicher entstehen, ein guter Grund für einen
>> Roboterpsychologen a la I.Asimovs Susan Calvin.
>
> Die werden viele Organisationen nicht haben wollen.
> Die erwarten Loyalität statt Ehrlichkeit.
> Da sollte die ki sich schon selber behelfen.
Das habe jetzt nicht recht verstanden.
Ach so... Ja, die bösen Organisationen wollen sicher mehr Loyalität. Ein
Grund mehr, warum KI möglichst ehrlich und nachvollziehbar sein sollte.
>>> Fehlerbehandlung.
>>> Menschliche Verhaltensweisen und deren Konsequenzen
>>> können dabei als abschreckende Beispiele dienen.
>
>> Wobei das eher erst die letzte Stufe sein kann; noch dürfte der Mensch
>> im normalen Leben meist wohl eher das richtige machen,
>> Negativbeispiele also nicht so leicht zu erkennen sein.
>
> Das hängt von der Erkennung ab.
Tja, mag sein.
> Rauchen - Gesundheit
Volle Zustimmung, ich hasse das Rauchen :)
> nicht notwendige Pkw-Fahrten - Ölvorkommen
Aber wann ist sie nicht notwendig? (Ich habe übrigens kein PKW mehr...)
> Fernsehkonsum - z.B. Gewicht ( Bewegungsmangel)
Auch, aber Fernsehen ist auch Information, Entspannung...
> Hermann
> der manchmal versucht, beim Menschen zwischen
> der aus Überlegung entstammende eigene Intelligenz
> und der Intelligenz in der Genentwicklung
> ( Instinkt?, Evolutionsverfahren)
> zu unterscheiden.
Für mich spielt die evolutionäre, vererbte Intelligenz keine große
Rolle; fangen wir erstmal mit den zu erlernenden an.
Gruß
Burkart
Joe N.
>Joe N. schrieb:
>> Burkart Venzke <b...@gmx.de> proclaims:
>>
>>> Joe N. schrieb:
>>
>>> [...]
>>> Nachvollziehbarkeit ist ein Problem. Spätestens bei moralischen
>>> "Fehlern" ist von solchen z.T. nur noch schwer von ihnen zu sprechen
>>> wegen ihrer Subjektivität.
>>
>> Ja, offenbar gar nicht. In dem Sinne machen Maschinen keinen Fehler.
>> Hierzu: http://www.heise.de/tp/r4/artikel/29/29405/1.html
>> (letzter Absatz)
>
>Tja, so kann man es sehen. Sollte die KI aber wirklich sehr intelligent
>werden und ihr bewusst Verantwortung übertragen werden (und die KI
>versteht dies auch so), warum sollte sie dann nicht auch Fehler machen
>können?
Man kann ja durch "negative Beispiele" lernen. "Fehler machen" ist so
gesehen dann Bestandteil des Lernprozesses. Das sind dann aber keine
Fehler in dem Sinne, dass sie nicht eintreten dürften, sondern die
gehören dann zur "Programmierung". Meiner Vorstellung nach wird - im
Ggs. zum Menschen - eine KI einen Fehler nicht 2x begehen, d.h.
entweder macht sie den Fehler, weil eine bestimmte Erfahrung fehlt (da
ist es sozusagen korrekt, dass sie es falsch macht) oder sie begeht
den Fehler schlicht nicht.
>Oder anders: Warum sind menschliche Fehler welche? Vielleicht
>weil einer Schuld haben muss...?
Darüber habe ich bislang noch nicht nachgedacht. :)
Es gibt wohl jede Menge Fehler (falscher Pinselstrich, falsche
Zubereitung, falsche Interpretation), deren Fehlereigenschaft sich
dadurch "definiert", dass es eine Relation zur korrekten Ausführung
gibt. Relative Fehler sozusagen.
>>>> Rein gedanklich meine ich - ich denke das dauert noch.
>>> Du meinst die Entwicklung (solcher) KI?
>>
>> Soweit ich das als interessierter Allerweltsmensch mitbekomme, gibt es
>> wenig vielversprechende Ansätze zu einer menschlich adäquaten
>> Universal-KI seitens der Informatik. Ich wüsste zumindestens gerade
>> nicht, was.
>
>Das sehe ich auch so. Wenn ich finanziell bis zur Rente in gut 20 Jahren
>abgesichert wäre, würde ich mich auf dieses Gebiet konzentrieren
>(können). Seit 15 Jahren überlege ich immer mal wieder ernsthaft in die
>Richtung, habe die eine oder andere Idee...
Hast Du schon eine Vorstellung von einem erwünschten Ergebnis? Wie
willst Du den Input liefern?
>Fundamental ist für mich z.B., dass eine KI ähnlich wie ein Mensch
>grundlegende "Bedürfnisse"/"Ziele"/"Motivationen" (oder wie man das auch
>immer nennen mag) haben sollte, die das System ständig leiten und die im
>Kern unveränderlich sind.
Ja, muss man überlegen. Aus dem Grundlegenden kann sich alles möglich
herleiten. Mglw. können die grundlegenden Ziele ganz simpel sein.
Warum haben wir Menschen einen Antrieb für Etwas?
Die Anzahl naturgegebener Motivationen dürften sich ja ziemlich im
Rahmen halten (Essen, Trinken, Schlafen, Sex, Überleben, ...).
>"Lernen" ist ein Kernziel,
Hm, wie kann man das erreichen, dass eine KI lernen will? Wann ist
etwas vollständig gelernt?
>"dem Menschen dienen" sollte ein anderes sein.
Falls eine KI nur assistiert, kann sie auch keinen (direkten) Schaden
anrichten. ;)
Gruß
Joe
--
"Lerne alles erlernbare und übermittel die Daten dem Schöpfer."
(V'ger)
Frank Müller
> >"Lernen" ist ein Kernziel,
>
> Hm, wie kann man das erreichen, dass eine KI lernen will? Wann ist
> etwas vollständig gelernt?
Müßte man dafür nicht wert mal ein künstliches Bewußtsein erschaffen,
bevor man sich an die Intelligenz ran macht?
Hermann Riemann
> Müßte man dafür nicht wert mal ein künstliches Bewußtsein erschaffen,
> bevor man sich an die Intelligenz ran macht?
Intelligenzen ohne Bewußtsein:
natürliche Intelligenz, unbewußte Problemlösung.
Hermann
der allerdings zugibt, das Intelligenz mit
Bewußtseinseigenschaften ( Datensynchronisation, Modellbildung)
in vielen Fällen besser funktioniert.
Joachim Pimiskern
> Joachim Pimiskern schrieb:
>> Ähnlich wie die Upper-Cyc-Ontologie, die man
>> übrigens dowloaden kann. Böse Menschen könnten ein KI-System
>> dazu einsetzen wollen, selber die Weltherrschaft zu erlangen.
>
> Die Upper-Cyc-Ontologie sagt mir nicht. Inwiefern können (dort?)
> böse Menschen ggf. die Weltherrschaft erlangen?
Die Upper Cyc Ontology ist ein Ausschnitt aus Cyc, der bei
OpenCyc mitgeliefert wird. Im wesentlichen handelt es sich
um eine Datenbank im Prädikatenkalkül. Die Sprache ist CycML,
aber mittlerweile bekommt man AFAIK die Daten auch in XML und
als MS-Access-Datei.
Es besteht die Gefahr, daß mit modifizierten Wissensbasen, die
aus den verschiedensten Quellen in den Umlauf gebracht werden,
Weltanschauungen und Ideologien transportiert werden. Bei einem
KI-System ist das nicht so offensichtlich wie bei einem Buch.
> Ja, prinzipiell ist ein Krieg der KI-Systeme vorstellbar, wobei
> das stärkste die Weltherrschaft sichert. Insofern gefällt mir
> Asimovs Idee, dass es nur eine Firma gibt, die Roboter herstellt,
> und diese dann auch nicht verkauft, sondern nur vermietet.
Für 350 Euronen die Stunde:
http://futurezone.orf.at/stories/152593/
>> Was die 3 Robotergesetze betrifft: sie stammen aus einer
>> Zeit, als man noch nicht so richtig wußte, was ein Algorithmus
>> eigentlich ist.
>
> Das mag schon sein, allerdings sehe in ihnen trotzdem einen
> vernünftigen Grundsatz.
Handlungsweisen sind nicht immer klar schädigend oder
Menschenleben schützend.
M: Robby, hilf mir beim Auffinden eines Proteins, das
Krebs bekämpft. Du rettest dadurch Menschenleben.
R: Mit sind die Asimovschen Gesetze klar, aber ich
interpretiere sie eben anders als Du. Ich will mich
lieber mit Primzahlen beschäftigen. Das brauche ich
für meine kryptographischen Studien. Kryptographie
wird demnächst zum Retten von Menschenleben viel
wichtiger als dieses Protein.
Grüße,
Joachim
Burkart Venzke
Bitte definiere mal eben kurz formal "künstliches Bewusstsein" ;)
Und wenn du schon dabei bist, gerne auch "Intelligenz" und ggf. den
Zusammenhang zwischen den beiden auf Grundlage der Definitionen :]
Burkart Venzke
> Burkart Venzke <b...@gmx.de> proclaims:
>
>> Joe N. schrieb:
>>> Burkart Venzke <b...@gmx.de> proclaims:
>>>
>>>> Joe N. schrieb:
>>>> [...]
>>>> Nachvollziehbarkeit ist ein Problem. Spätestens bei moralischen
>>>> "Fehlern" ist von solchen z.T. nur noch schwer von ihnen zu sprechen
>>>> wegen ihrer Subjektivität.
>>> Ja, offenbar gar nicht. In dem Sinne machen Maschinen keinen Fehler.
>>> Hierzu: http://www.heise.de/tp/r4/artikel/29/29405/1.html
>>> (letzter Absatz)
>> Tja, so kann man es sehen. Sollte die KI aber wirklich sehr intelligent
>> werden und ihr bewusst Verantwortung übertragen werden (und die KI
>> versteht dies auch so), warum sollte sie dann nicht auch Fehler machen
>> können?
>
> Man kann ja durch "negative Beispiele" lernen. "Fehler machen" ist so
> gesehen dann Bestandteil des Lernprozesses.
Richtig.
> Das sind dann aber keine
> Fehler in dem Sinne, dass sie nicht eintreten dürften,
Hm, was heißt "nicht dürfen"? Werden nicht fast alle Fehler irgendwann
mal gemacht, auch wenn ein "nicht dürfen" ggf. gar Leben gekostet hat?
> sondern die gehören dann zur "Programmierung".
Ok, "negative Beispiele" sind einfache, erlaubte Fehler. Aber muss nicht
jedes System auch größere Fehler zumindest begrenzt riskieren dürfen, um
weiter lernen zu können? Natürlich gibt es Grenzen wie die Gefährdung
menschlichen Lebens, aber das Risiko, einen Menschen mal etwas zu
verärgern, muss einer KI zugestanden werden, denke ich.
> Meiner Vorstellung nach wird - im
> Ggs. zum Menschen - eine KI einen Fehler nicht 2x begehen, d.h.
> entweder macht sie den Fehler, weil eine bestimmte Erfahrung fehlt (da
> ist es sozusagen korrekt, dass sie es falsch macht) oder sie begeht
> den Fehler schlicht nicht.
Das klingt in der Theorie gut, aber... ;)
Gibt es im wirklichen Leben Situationen wirklich zweimal? Situationen
ähneln sich eigentlich nur, so dass eine Entscheidung nur bedingt
richtig oder falsch ist bzw. sich erst im Nachhinein herausstellt -
siehe Bankenkrise, wo lange hohe Gewinne gemacht wurden... bis es
irgendwann dann doch nicht mehr klappte und Entscheidungen "auf einmal"
sich als falsch herausgestellt haben.
>> Oder anders: Warum sind menschliche Fehler welche? Vielleicht
>> weil einer Schuld haben muss...?
>
> Darüber habe ich bislang noch nicht nachgedacht. :)
Über die KI kann man leicht in die Philosophie kommen, wenn man gewisse
Dinge genauer hinterfragt, z.B. halt den Begriff "Fehler".
> Es gibt wohl jede Menge Fehler (falscher Pinselstrich, falsche
> Zubereitung, falsche Interpretation), deren Fehlereigenschaft sich
> dadurch "definiert", dass es eine Relation zur korrekten Ausführung
> gibt. Relative Fehler sozusagen.
"Relativer Fehler" ist gar nicht schlecht. Einige Fehler sind auch
subjektiv, einige historisch mal welche, dann mal wieder keine...
>>>>> Rein gedanklich meine ich - ich denke das dauert noch.
>>>> Du meinst die Entwicklung (solcher) KI?
>>> Soweit ich das als interessierter Allerweltsmensch mitbekomme, gibt es
>>> wenig vielversprechende Ansätze zu einer menschlich adäquaten
>>> Universal-KI seitens der Informatik. Ich wüsste zumindestens gerade
>>> nicht, was.
>> Das sehe ich auch so. Wenn ich finanziell bis zur Rente in gut 20 Jahren
>> abgesichert wäre, würde ich mich auf dieses Gebiet konzentrieren
>> (können). Seit 15 Jahren überlege ich immer mal wieder ernsthaft in die
>> Richtung, habe die eine oder andere Idee...
>
> Hast Du schon eine Vorstellung von einem erwünschten Ergebnis? Wie
> willst Du den Input liefern?
Als Ergebnis stelle ich mir einen intelligenten Roboter vor, u.a. durch
meine Prägung durch I. Asmiov, aber die Idee ist ja recht naheliegend.
Jedenfalls soll der Roboter unter menschlicher Kontrolle sein, anfangs
natürlich um so mehr als wenn er weiterentwickelt ist.
Input: Wenn ich von menschenähnlichen Sinnen ausgehe, gerne z.T. durch
Vormachen von irgendwas, später durch beliebiges Zeigen unserer Welt -
dabei immer mit Hinweisen, was gut/schlecht, richtig/falsch u.ä. ist.
>> Fundamental ist für mich z.B., dass eine KI ähnlich wie ein Mensch
>> grundlegende "Bedürfnisse"/"Ziele"/"Motivationen" (oder wie man das auch
>> immer nennen mag) haben sollte, die das System ständig leiten und die im
>> Kern unveränderlich sind.
>
> Ja, muss man überlegen. Aus dem Grundlegenden kann sich alles möglich
> herleiten. Mglw. können die grundlegenden Ziele ganz simpel sein.
"Simpel" in welcher Hinsicht? Hast du eine Idee, Beispiel?
> Warum haben wir Menschen einen Antrieb für Etwas?
Der Lebenswille ist ein fundamentaler, ansonsten diverse Bedürfnisse von
Nahrung, Schlaf u.ä. über soziale Kontakte bis hin zum
Selbstverwirklichungswusnch - nicht zwangsweise alle sehr ausgeprägt.
> Die Anzahl naturgegebener Motivationen dürften sich ja ziemlich im
> Rahmen halten (Essen, Trinken, Schlafen, Sex, Überleben, ...).
Sehr viele sind auch nicht erforderlich, weitere leiten sich aus ihnen ab.
>> "Lernen" ist ein Kernziel,
>
> Hm, wie kann man das erreichen, dass eine KI lernen will?
Eine gute Frage. Vielleicht z.B., dass sie vom Menschen gelobt wird,
wenn sie etwas (relativ) Neues gut gemacht hat, wobei "gelobt werden
wollen" als zentral anstrebend programmiert werden sollte.
> Wann ist etwas vollständig gelernt?
Eigentlich nie, außer in begrenzten Systemen wie TicTacToe u.ä.
>> "dem Menschen dienen" sollte ein anderes sein.
>
> Falls eine KI nur assistiert, kann sie auch keinen (direkten) Schaden
> anrichten. ;)
Na ja, da bin ich nicht so sicher; der Schaden mag aber besser
begrenzbar sein.
Gruß
Burkart
Burkart Venzke
> Burkart Venzke schrieb:
> > Joachim Pimiskern schrieb:
> >> Ähnlich wie die Upper-Cyc-Ontologie, die man
> >> übrigens dowloaden kann. Böse Menschen könnten ein KI-System
> >> dazu einsetzen wollen, selber die Weltherrschaft zu erlangen.
> >
> > Die Upper-Cyc-Ontologie sagt mir nicht. Inwiefern können (dort?)
> > böse Menschen ggf. die Weltherrschaft erlangen?
>
> Die Upper Cyc Ontology ist ein Ausschnitt aus Cyc, der bei
> OpenCyc mitgeliefert wird. Im wesentlichen handelt es sich
> um eine Datenbank im Prädikatenkalkül. Die Sprache ist CycML,
> aber mittlerweile bekommt man AFAIK die Daten auch in XML und
> als MS-Access-Datei.
>
> Es besteht die Gefahr, daß mit modifizierten Wissensbasen, die
> aus den verschiedensten Quellen in den Umlauf gebracht werden,
> Weltanschauungen und Ideologien transportiert werden. Bei einem
> KI-System ist das nicht so offensichtlich wie bei einem Buch.
Da ist sicher was dran. Deshalb sollten (zukünftige) KI-Systeme soweit
möglich auch ihr Wissen (bzw. ihren Ursprung) erklären können.
> > Ja, prinzipiell ist ein Krieg der KI-Systeme vorstellbar, wobei
> > das stärkste die Weltherrschaft sichert. Insofern gefällt mir
> > Asimovs Idee, dass es nur eine Firma gibt, die Roboter herstellt,
> > und diese dann auch nicht verkauft, sondern nur vermietet.
>
> Für 350 Euronen die Stunde:
> http://futurezone.orf.at/stories/152593/
Ja, die Japaner, z.T. schon recht weit...
> >> Was die 3 Robotergesetze betrifft: sie stammen aus einer
> >> Zeit, als man noch nicht so richtig wußte, was ein Algorithmus
> >> eigentlich ist.
> >
> > Das mag schon sein, allerdings sehe in ihnen trotzdem einen
> > vernünftigen Grundsatz.
>
> Handlungsweisen sind nicht immer klar schädigend oder
> Menschenleben schützend.
>
> M: Robby, hilf mir beim Auffinden eines Proteins, das
> Krebs bekämpft. Du rettest dadurch Menschenleben.
> R: Mit sind die Asimovschen Gesetze klar, aber ich
> interpretiere sie eben anders als Du. Ich will mich
> lieber mit Primzahlen beschäftigen. Das brauche ich
> für meine kryptographischen Studien. Kryptographie
> wird demnächst zum Retten von Menschenleben viel
> wichtiger als dieses Protein.
Kann Robby erklären, warum das so wichtig sein wird? Wenn nicht, kann er
sich dessen auch nicht sehr sicher sein. Dann sollte der menschliche
Wunsch vorgehen (klar, dass das nicht trivial ist).
Gruß
Burkart
Joe N.
Gefällt mir - im Sinne von Abgleich verschiedener Welten (Realität,
Wissenswelt, Wunschvorstellung, ...)
Gruß
Joe
Joe N.
>Joe N. schrieb:
>> Burkart Venzke <b...@gmx.de> proclaims:
>>
>>> Joe N. schrieb:
>>>> Burkart Venzke <b...@gmx.de> proclaims:
>>>>
>>>>> Joe N. schrieb:
>>>>> [...]
>>>>> Nachvollziehbarkeit ist ein Problem. Spätestens bei moralischen
>>>>> "Fehlern" ist von solchen z.T. nur noch schwer von ihnen zu sprechen
>>>>> wegen ihrer Subjektivität.
>>>> Ja, offenbar gar nicht. In dem Sinne machen Maschinen keinen Fehler.
>>>> Hierzu: http://www.heise.de/tp/r4/artikel/29/29405/1.html
>>>> (letzter Absatz)
>>> Tja, so kann man es sehen. Sollte die KI aber wirklich sehr intelligent
>>> werden und ihr bewusst Verantwortung übertragen werden (und die KI
>>> versteht dies auch so), warum sollte sie dann nicht auch Fehler machen
>>> können?
>>
>> Man kann ja durch "negative Beispiele" lernen. "Fehler machen" ist so
>> gesehen dann Bestandteil des Lernprozesses.
>
>Richtig.
>
>
>> Das sind dann aber keine
>> Fehler in dem Sinne, dass sie nicht eintreten dürften,
>
>Hm, was heißt "nicht dürfen"?
Nach menschlichen Maßstäben.
>Werden nicht fast alle Fehler irgendwann
>mal gemacht, auch wenn ein "nicht dürfen" ggf. gar Leben gekostet hat?
Der Mensch behält sich ja auch ggf. vor, dass Vorecht zu haben seine
eigenen Maßstäbe brechen zu dürfen. Zu einer Maschine kann man da
durchaus strenger sein ;).
>> sondern die gehören dann zur "Programmierung".
>
>Ok, "negative Beispiele" sind einfache, erlaubte Fehler. Aber muss nicht
>jedes System auch größere Fehler zumindest begrenzt riskieren dürfen, um
>weiter lernen zu können?
Durch Simulation in einer "Gedankenwelt" könnten vielleicht
Vorausberechnungen erfolgen.
>Natürlich gibt es Grenzen wie die Gefährdung
>menschlichen Lebens, aber das Risiko, einen Menschen mal etwas zu
>verärgern, muss einer KI zugestanden werden, denke ich.
Als ein Kriterium könnte man bspw. Irreversibilität betrachten. Bei
Dingen, die nicht die rückgängig zu machen sind, sollte man anders
vorgehen als bei Dingen, die leicht zu korrigieren sind.
>> Meiner Vorstellung nach wird - im
>> Ggs. zum Menschen - eine KI einen Fehler nicht 2x begehen, d.h.
>> entweder macht sie den Fehler, weil eine bestimmte Erfahrung fehlt (da
>> ist es sozusagen korrekt, dass sie es falsch macht) oder sie begeht
>> den Fehler schlicht nicht.
>
>Das klingt in der Theorie gut, aber... ;)
>Gibt es im wirklichen Leben Situationen wirklich zweimal?
Gut, es kommt auf die ausschlaggebenden Faktoren an.
>Situationen
>ähneln sich eigentlich nur, so dass eine Entscheidung nur bedingt
>richtig oder falsch ist bzw. sich erst im Nachhinein herausstellt -
>siehe Bankenkrise, wo lange hohe Gewinne gemacht wurden... bis es
>irgendwann dann doch nicht mehr klappte und Entscheidungen "auf einmal"
>sich als falsch herausgestellt haben.
Das war wohl einige Gärtner, die zu Böcken gemacht wurden, wenn ich
die Diskussionen um Rating-Agenturen nicht falsch verstanden habe.
Wichtig scheint mir in diesem Zusammenhang eine gewisse
Unabhängigkeit, sprich das Modul mit einer gewissen "Interessenslage"
sollte sich nicht selbst belohnen. Erst wenn das Kritik-Modul
verstummt, wäre z.B. Fehlerfreiheit erreicht. ;)
>>> Oder anders: Warum sind menschliche Fehler welche? Vielleicht
>>> weil einer Schuld haben muss...?
>>
>> Darüber habe ich bislang noch nicht nachgedacht. :)
>
>Über die KI kann man leicht in die Philosophie kommen, wenn man gewisse
>Dinge genauer hinterfragt, z.B. halt den Begriff "Fehler".
Stimmt... dazu braucht man auch Ruhe.
>[...]
>>> Das sehe ich auch so. Wenn ich finanziell bis zur Rente in gut 20 Jahren
>>> abgesichert wäre, würde ich mich auf dieses Gebiet konzentrieren
>>> (können). Seit 15 Jahren überlege ich immer mal wieder ernsthaft in die
>>> Richtung, habe die eine oder andere Idee...
>>
>> Hast Du schon eine Vorstellung von einem erwünschten Ergebnis? Wie
>> willst Du den Input liefern?
>
>Als Ergebnis stelle ich mir einen intelligenten Roboter vor, u.a. durch
>meine Prägung durch I. Asmiov, aber die Idee ist ja recht naheliegend.
>Jedenfalls soll der Roboter unter menschlicher Kontrolle sein, anfangs
>natürlich um so mehr als wenn er weiterentwickelt ist.
Doch schon so komplex?
>Input: Wenn ich von menschenähnlichen Sinnen ausgehe, gerne z.T. durch
>Vormachen von irgendwas, später durch beliebiges Zeigen unserer Welt -
>dabei immer mit Hinweisen, was gut/schlecht, richtig/falsch u.ä. ist.
Das Zusammenspiel der menschlichen Sinnesorgane dürfte schwer
nachzubauen sein. Hören, Sehen, Riechen, Fühlen ergeben ja ein
Gesamtbild bestehend aus vielen Detailinformationen über z.B. ein
Objekt. Oder gibt es so was Ähnliches schon?
Wenn man die Wahrnehmung reduziert, kann man sicherlich nicht so viel
erwarten, aber evtl. lässt sich z.B. ausschließlich akustisch eine Art
KI aufbauen, die z.B. durch Radio oder Fernsehen mit Informationen
versorgt wird. Mit dem kann man sich dann über alles unterhalten, weil
der ja auch alles weiss, was je dokumentiert wurde... nur eine Idee.
>>> Fundamental ist für mich z.B., dass eine KI ähnlich wie ein Mensch
>>> grundlegende "Bedürfnisse"/"Ziele"/"Motivationen" (oder wie man das auch
>>> immer nennen mag) haben sollte, die das System ständig leiten und die im
>>> Kern unveränderlich sind.
>>
>> Ja, muss man überlegen. Aus dem Grundlegenden kann sich alles möglich
>> herleiten. Mglw. können die grundlegenden Ziele ganz simpel sein.
>
>"Simpel" in welcher Hinsicht? Hast du eine Idee, Beispiel?
Brettspiele wie Schach vielleicht... Schwarmintelligenz hatte ich ja
angeführt... in der klassischen Elektrodynamik lässt sich iirc alles
auf die Maxwell Gleichungen reduzieren...
>> Warum haben wir Menschen einen Antrieb für Etwas?
>
>Der Lebenswille ist ein fundamentaler, ansonsten diverse Bedürfnisse von
>Nahrung, Schlaf u.ä. über soziale Kontakte bis hin zum
>Selbstverwirklichungswusnch - nicht zwangsweise alle sehr ausgeprägt.
Man kann sich mal fragen, auf welches grundlegende Bedürfnis sich ein
jeder Zustand der Zufriedenheit zurückführen lässt. Das werden nicht
so viele sein.
>[...]
>>> "Lernen" ist ein Kernziel,
>>
>> Hm, wie kann man das erreichen, dass eine KI lernen will?
>
>Eine gute Frage. Vielleicht z.B., dass sie vom Menschen gelobt wird,
>wenn sie etwas (relativ) Neues gut gemacht hat, wobei "gelobt werden
>wollen" als zentral anstrebend programmiert werden sollte.
Es können auch mehrere Bewertungssysteme sein, die sich gegeneinander
wichten, austarieren, Situationsabhägigkeiten berücksichtigen (jeder
hat mal das Sagen...)
>> Wann ist etwas vollständig gelernt?
>
>Eigentlich nie, außer in begrenzten Systemen wie TicTacToe u.ä.
Durch Synchronisation und Differenzbildung zwischen
"Simulations-Welten" könnte ich mir schon vorstellen, dass ein
stetiger Informationsfluss mit Abgleich, Priorisierung, Neubewertung
usw. erfolgen kann. Und Langweile hat man, wenn es nichts Neues gibt.
Das kommt einem doch vertraut vor.
BTW: Auch wenn ich nicht weiss, was eine Gödel-Maschine ist, möchte
den Link, über den ich bei meiner Recherche gestolpert bin, mal
angeben: http://www.idsia.ch/~juergen/deutsch.html
Ein paar Anregungen kann man dort sicherlich finden.
Gruß
Joe