Wo seht ihr die größten Probleme zur Entwicklung einer allgemeinen, starken Künstlichen Intelligenz? (fachlich/technisch, nicht emotional)

Burkart

unread,

May 30, 2020, 2:53:45 AM5/30/20

to

Die Frage geht mir immer wieder durch die Kopf:
Wo sind die größten Probleme zur Entwicklung einer allgemeinen, starken
Künstlichen Intelligenz?

Wobei ich es fachlich oder technisch meine (auch "fachlich/technisch
philosophisch", wenn man es so sagen kann), aber nicht emotional a la
"die wird doch nur böse sein und den Menschen beherrschen" o.ä.

Meine Antwort(en) darauf ändert(n) sich im Laufe der Zeit immer mal
wieder, insofern bin ich auf eure Antworten gespannt.

Gruß, Burkart

menti...@gmail.com

unread,

May 31, 2020, 2:35:08 AM5/31/20

to

On Friday, May 29, 2020 at 11:53:45 PM UTC-7, Burkart wrote:
> [...]

> Wo sind die größten Probleme zur Entwicklung einer allgemeinen, starken Künstlichen Intelligenz?

> [...]
> Gruß, Burkart

Unter den größten Problemen zur Entwicklung sind die Tatsache, daß nicht genug Leute daran arbeiten, und daß die daran arbeitenden Leute die Probleme der Theorie nicht gut genug verstehen.

http://ai.neocities.org/theory.html -- Theorie des Gehirns für die KI.

Burkart

unread,

May 31, 2020, 5:45:35 PM5/31/20

to

Am 31.05.2020 um 08:35 schrieb menti...@gmail.com:
> On Friday, May 29, 2020 at 11:53:45 PM UTC-7, Burkart wrote:
>> [...]
>> Wo sind die größten Probleme zur Entwicklung einer allgemeinen, starken Künstlichen Intelligenz?
>> [...]
>> Gruß, Burkart
>
> Unter den größten Problemen zur Entwicklung sind die Tatsache, daß nicht genug Leute daran arbeiten,

Das sehe ich auch so.

> und daß die daran arbeitenden Leute die Probleme der Theorie nicht gut genug verstehen.
>
> http://ai.neocities.org/theory.html -- Theorie des Gehirns für die KI.

Die Frage ist: Welcher Theorie? Deiner? Meiner? Einer ganz anderen?

Ein Problem ist sicher, dass es nicht *den* richtigen Ansatz gibt.
Du magst z.B. neuronale Netze für die Lösung halten, während ich die
symbolische KI als Lösungskern für mich ansehe.

Ist überhaupt klar, was wir von allgemeiner KI überhaupt zentral
erwarten? Doch nicht, dass sie einen Menschen technisch 1:1 kopiert, oder?

Joachim Pimiskern

unread,

Jun 14, 2020, 10:20:33 AM6/14/20

to

Am 30.05.2020 um 08:54 schrieb Burkart:
> Wo sind die größten Probleme zur Entwicklung einer
> allgemeinen, starken Künstlichen Intelligenz?

Auf oberster Ebene eines KI-Systems mit menschenähnlicher
Intelligenz wird ein symbolverarbeitendes System stehen.
Es wird ein Arbeitsgedächtnis ähnlich dem unsrigen haben.
Man denke an eine Liste von 7+-2 Symbolen. Das Langzeitgedächtnis
wird eine Sammlung derartiger Listen sein, die assoziativ
abgerufen werden können, wobei nur 1 Liste zu einem
Zeitpunkt ins Arbeitsgedächtnis abgerufen werden kann.

Denkvorgänge sind dann Operationen auf dem Inhalt
des Arbeitsgedächtnisses. Welche Operationen sind zwingend?

Da denke ich immer ans Go-Spiel. Wie kommt man zu
einem Zugvorschlag? Erlaubt ist alles. Stell' Dir vor,
Du dürftest denken, was Du willst,
was würdest Du dann denken?

Insbesondere beim Go wird klar, daß es keinen
vorgeschriebenen Ablauf der Denkvorgänge gibt.
Nach einer sinnvollen Zeit muß man eben handeln,
seinen Zug setzen, das ist der einzige Zwang.

Ein starkes KI-System wird auch die Möglichkeit
haben, Vorgänge des Denkens selber festzulegen,
aber welche sind sinnvoll?

Grüße,
Joachim

Hermann Riemann

unread,

Jun 15, 2020, 7:00:14 AM6/15/20

to

Am 14.06.20 um 16:20 schrieb Joachim Pimiskern:

> Am 30.05.2020 um 08:54 schrieb Burkart:
> > Wo sind die größten Probleme zur Entwicklung einer
> > allgemeinen, starken Künstlichen Intelligenz?
>
> Auf oberster Ebene eines KI-Systems mit menschenähnlicher
> Intelligenz wird ein symbolverarbeitendes System stehen.

Njein.
Reines Symbolsystem ist zu sehr auf wahr-falsch Wissensverarbeitung
wie Mathematik und Logik beschränkt.

> Es wird ein Arbeitsgedächtnis ähnlich dem unsrigen haben.

Wenn ich das Gegenstück Arbeitsregister in einer CPU
im menschlichen Gehirn suchen müsste,
denke ich an gerade aktive Neurone
die je nach Aufgabe woanders verteilt sind,
aber untereinander synchronisiert sind.

> Man denke an eine Liste von 7+-2 Symbolen.

Wenn ich die Blätter eines Baumes sehen,
sind da mehr als 10 gleichzeitig im Bewusstsein.

Und im Unterbewusstsein können mehr als 10 Elemente
gleichzeitig verarbeitet werden,
wenn Bereiche getrennt sind.

> Das Langzeitgedächtnis
> wird eine Sammlung derartiger Listen sein,

Nein, es ist ein Netz ( neuronale Gewichte)
von Abschätzungen, was zusammengehört.

> die assoziativ abgerufen werden können,

Assoziation geht so:
Ich rufe "Hermann".
Bei einem computer ist ein "Hermann" im Speicher
oder keiner ( "Hermann" als binäre Adresse. )

Im Gehirn (und Realität) gibt es eventuell
etliche "Hermann" aber auch "Herrman" "Herman" etc
die sich mit diverser Lautstärke melden.
Und eine Zusammenhang Suche läuft eventuell los
wo Kandidaten (Varianten) abgearbeitet werden.

> wobei nur 1 Liste zu einem
> Zeitpunkt ins Arbeitsgedächtnis abgerufen werden kann.

Oder mehrere z.B. mit threads

> Denkvorgänge sind dann Operationen auf dem Inhalt
> des Arbeitsgedächtnisses.

Findet bei aktuellen NNs auch statt (Ebene zu Ebene)
allerdings stark durch Architektur reglementiert.

> Welche Operationen sind zwingend?

Abbildungen die einige Muster in andere überführen.
Dazu Gewichtungen wahr, aufwendig ..

> Da denke ich immer ans Go-Spiel. Wie kommt man zu
> einem Zugvorschlag? Erlaubt ist alles.

Digitalspiel.
Als erstes gibt es Vorgaben durch Regeln.
Diese werden durch Abschätzungen oder Zufall
eingeschränkt bis eine übrigbleibt.

Und es gibt Zugfolgen die die Abschätzungen
beeinflussen.

> Ein starkes KI-System wird auch die Möglichkeit
> haben, Vorgänge des Denkens selber festzulegen,

Selber Regeln herausfinden?
( Sich selbst anhand realer und virtueller Erfahrung
programmieren )

> aber welche sind sinnvoll?

Da gibt es Werte von richtig, wichtig aufwendig ..

Allerdings auch Fehler.

Die erste Schlussfolgerung, an die ich mich erinnere:

"Wenn ich über die Straße will,
und ein Auto kommt,
schließe ich meine Augen,
dann ist das Auto weg,
und ich kann über die Straße".

Logisch korrekt, wenn etwas Realität
nicht mit einbezogen wird.

Hermann
vermutend, das aktuelle NNs keine
Varianten Suche können.

--
http://www.hermann-riemann.de

Jens Kallup

unread,

Jun 17, 2020, 10:36:16 AM6/17/20

to

Am 31.05.20 um 23:45 schrieb Burkart:

> Am 31.05.2020 um 08:35 schrieb menti...@gmail.com:
>> On Friday, May 29, 2020 at 11:53:45 PM UTC-7, Burkart wrote:
>>> [...]
>>> Wo sind die größten Probleme zur Entwicklung einer allgemeinen,
>>> starken Künstlichen Intelligenz?
>>> [...]
>>> Gruß, Burkart
>>
>> Unter den größten Problemen zur Entwicklung sind die Tatsache, daß
>> nicht genug Leute daran arbeiten,
>
> Das sehe ich auch so.

Hallo,

das Problem ist doch gar kein Problem.
Schaut Euch doch mal die Evolution an; die hat Millionen von Jahren
gedauert, der Homosapiens entwickelte sich vor 20.000 Jahren ...
seit wann gibt es Computer oder Elektronik überhaupt?

Also noch genug Zeit, um zu basteln

Jens

Hermann Riemann

unread,

Jun 18, 2020, 1:28:32 AM6/18/20

to

Am 17.06.20 um 16:36 schrieb Jens Kallup:

> das Problem ist doch gar kein Problem.
> Schaut Euch doch mal die Evolution an; die hat Millionen von Jahren
> gedauert,

Wovon die meiste Zeit es kaum weiterging.
Z.B. nur Einzeller.

> der Homosapiens entwickelte sich vor 20.000 Jahren ...

Und es gab ihn seit einige 100k Jahre.
Warum hat sich da nichts getan?

> seit wann gibt es Computer oder Elektronik überhaupt?

Z.B. Die Leibniz’sche Rechenmaschine in
https://de.wikipedia.org/wiki/Gottfried_Wilhelm_Leibniz

> Also noch genug Zeit, um zu basteln

Lebenserwartung nicht vergessen.
Wie lange kam KI nicht ernsthaft weiter?

Hermann
der moderne KI Verfahren auch nur für Stückwerk hält.
und Verfahren vermutet, die KI erheblich weiterbringen
( Kombination aus Evolution NN und Inferenzmaschine,
die auch mit Schätzwerten umgehen kann. ..? )

--
http://www.hermann-riemann.de

Burkart

unread,

Jun 20, 2020, 5:55:30 AM6/20/20

to

Am 14.06.2020 um 16:20 schrieb Joachim Pimiskern:
> Am 30.05.2020 um 08:54 schrieb Burkart:
> > Wo sind die größten Probleme zur Entwicklung einer
> > allgemeinen, starken Künstlichen Intelligenz?
>
> Auf oberster Ebene eines KI-Systems mit menschenähnlicher
> Intelligenz wird ein symbolverarbeitendes System stehen.

Das sehe ich auch so - zumindest solange ein neuronales Netz nicht
hinreichend gut mit Symbolen klarkommt und diese gezielt nutzen kann.

> Es wird ein Arbeitsgedächtnis ähnlich dem unsrigen haben.
> Man denke an eine Liste von 7+-2 Symbolen.

Das mag sein, die Anzahl könnte man dann mal in der Praxis variieren und
erproben.

> Das Langzeitgedächtnis
> wird eine Sammlung derartiger Listen sein, die assoziativ
> abgerufen werden können, wobei nur 1 Liste zu einem
> Zeitpunkt ins Arbeitsgedächtnis abgerufen werden kann.

Mir scheint ein assoziatives Netz plausibler zu sein, bei dem dann ein
paar wenige Knoten ins Arbeitsgedächtnis hochgeholt werden.

> Denkvorgänge sind dann Operationen auf dem Inhalt des Arbeitsgedächtnisses.

Genau.

> Welche Operationen sind zwingend?

Die, die irgendwie näher an ein Ziel einer Aufgabe o.ä. heranführen,
ggf. auszuprobieren, wenn es nicht genug Gelerntes dazu geben sollte.

> Da denke ich immer ans Go-Spiel. Wie kommt man zu
> einem Zugvorschlag? Erlaubt ist alles. Stell' Dir vor,
> Du dürftest denken, was Du willst,
> was würdest Du dann denken?
>
> Insbesondere beim Go wird klar, daß es keinen
> vorgeschriebenen Ablauf der Denkvorgänge gibt.
> Nach einer sinnvollen Zeit muß man eben handeln,
> seinen Zug setzen, das ist der einzige Zwang.
>
> Ein starkes KI-System wird auch die Möglichkeit
> haben, Vorgänge des Denkens selber festzulegen,
> aber welche sind sinnvoll?

Wie gesagt, das sind die, die sich irgendeinem Ziel nähern.
Zu Go kann ich zu wenig sagen, aber beim Schach ist das Endziel
natürlich das Matt, Vorziele Material- und Raumgewinn usw. Das Problem
ist natürlich diese abzuwägen, das macht einen guten Schachspieler aus.

Viele Grüße
Burkart

PS: Beim philosophie-raum.de diskutieren wir über KI.

Burkart

unread,

Jun 20, 2020, 6:06:43 AM6/20/20

to

Am 15.06.2020 um 13:00 schrieb Hermann Riemann:
> Am 14.06.20 um 16:20 schrieb Joachim Pimiskern:
>> Am 30.05.2020 um 08:54 schrieb Burkart:
>> > Wo sind die größten Probleme zur Entwicklung einer
>> > allgemeinen, starken Künstlichen Intelligenz?
>>
>> Auf oberster Ebene eines KI-Systems mit menschenähnlicher
>> Intelligenz wird ein symbolverarbeitendes System stehen.
>
> Njein.
> Reines Symbolsystem ist zu sehr auf wahr-falsch Wissensverarbeitung
> wie Mathematik und Logik beschränkt.

Symbole können doch beliebige Objekte sein, ggf. fern von (nur) wahr-falsch.

>> Es wird ein Arbeitsgedächtnis ähnlich dem unsrigen haben.
>
> Wenn ich das Gegenstück Arbeitsregister in einer CPU
> im menschlichen Gehirn suchen müsste,
> denke ich an gerade aktive Neurone
> die je nach Aufgabe woanders verteilt sind,
> aber untereinander synchronisiert sind.

Wenn wir denn diese Neuronen hinreichend gut verstanden und im NN
praktisch anwenden können, also so dass sie auch mit Symbolen gut
klarkommen u.ä.

>> Man denke an eine Liste von 7+-2 Symbolen.
>
> Wenn ich die Blätter eines Baumes sehen,
> sind da mehr als 10 gleichzeitig im Bewusstsein.
>
> Und im Unterbewusstsein können mehr als 10 Elemente
> gleichzeitig verarbeitet werden,
> wenn Bereiche getrennt sind.

"Gleichzeitig" ist so eine Sache hinsichtlich unseres menschlichen
Arbeitsspeichers, "recht schnell nacheinander": Einverstanden.

>> Das Langzeitgedächtnis
>> wird eine Sammlung derartiger Listen sein,
>
> Nein, es ist ein Netz ( neuronale Gewichte)
> von Abschätzungen, was zusammengehört.

Für ein Netz bin ich auch, wenn auch z.T. mehr auf symbolischer Ebene.

>> die assoziativ abgerufen werden können,
>
> Assoziation geht so:
> Ich rufe "Hermann".
> Bei einem computer ist ein "Hermann" im Speicher
> oder keiner ( "Hermann" als binäre Adresse. )
>
> Im Gehirn (und Realität) gibt es eventuell
> etliche "Hermann" aber auch "Herrman" "Herman" etc
> die sich mit diverser Lautstärke melden.
> Und eine Zusammenhang Suche läuft eventuell los
> wo Kandidaten (Varianten) abgearbeitet werden.
>
>> wobei nur 1 Liste zu einem
>> Zeitpunkt ins Arbeitsgedächtnis abgerufen werden kann.
>
> Oder mehrere z.B. mit threads
>
>> Denkvorgänge sind dann Operationen auf dem Inhalt
>> des Arbeitsgedächtnisses.
>
> Findet bei aktuellen NNs auch statt (Ebene zu Ebene)
> allerdings stark durch Architektur reglementiert.
>
>> Welche Operationen sind zwingend?
>
> Abbildungen die einige Muster in andere überführen.
> Dazu Gewichtungen wahr, aufwendig ..

Die Frage ist dann: Woher kommen die Abbildungen/Muster? Wie sind sie
entstanden? Sie sehr viele Lernbeispiele nötig oder reichen auch wenige?
Usw.
Deshalb ist mir ein symbolisches Netz lieber, bei dem klarer ist, wie
die Elemente in Beziehung stehen (hinsichtlich der Anwendungsebene).

>> Da denke ich immer ans Go-Spiel. Wie kommt man zu
>> einem Zugvorschlag? Erlaubt ist alles.
>
> Digitalspiel.
> Als erstes gibt es Vorgaben durch Regeln.
> Diese werden durch Abschätzungen oder Zufall
> eingeschränkt bis eine übrigbleibt.
>
> Und es gibt Zugfolgen die die Abschätzungen
> beeinflussen.
>
>> Ein starkes KI-System wird auch die Möglichkeit
>> haben, Vorgänge des Denkens selber festzulegen,
>
> Selber Regeln herausfinden?
> ( Sich selbst anhand realer und virtueller Erfahrung
> programmieren )

Es wäre ja auch schon gut, auf Basis von grundlegenden Regeln
Lösungsstrategien automatisch auszuarbeiten.

> Hermann
> vermutend, das aktuelle NNs keine
> Varianten Suche können.

Ein Grund mehr, der für Symbolik spricht?

Viele Grüße
Burkart

PS: Auch hier nochmal: Beim philosophie-raum.de diskutieren wir über KI.

Burkart

unread,

Jun 20, 2020, 6:17:27 AM6/20/20

to

Am 18.06.2020 um 07:28 schrieb Hermann Riemann:
> Wie lange kam KI nicht ernsthaft weiter?

Ein Grund mehr, dass wir sie voranbringen ;)
Leider habe ich das Gefühl, dass die KI-Wissenschaft sich kaum um starke
KI kümmert, lieber sich mit Big Data u.ä. praktisch rumschlägt - wo
sicher kurzfristig mehr Geld zu verdienen ist...

> Hermann
> der moderne KI Verfahren auch nur für Stückwerk hält.

Schwache KI halt.

>    und Verfahren vermutet, die KI erheblich weiterbringen
>    ( Kombination aus Evolution NN und Inferenzmaschine,
>      die auch mit Schätzwerten umgehen kann. ..? )

Wenn man denn auf NN-Ebene bleiben möchte...
Im philosophie-raum.de versuche ich allgemeine bzw. auch symbolische
Ansätze zu diskutieren, z.B. den Nutzen von "Abstraktion", "Verstehen"
u.ä. hinsichtlich allgemener, starker KI.

Viele Grüße
Burkart