"Was, wenn es intelligenter ist als wir?": Der "Urvater der KI" bereut sein Lebenswerk – und fürchtet seine Folgen
Debatte
Technik und VerkehrKommentare (17)
René Nehring • 04.05.2023
Der Durchbruch der KI in jüngster Zeit ist zwei wesentlichen Faktoren zu verdanken:
1. einem (vereinfacht gesagt) Wechsel im Entwicklungsansatz. Die heutigen Entwicklungen gehen nicht mehr davon aus, daß kluge Köpfe von oben nach unten programmieren. Vielmehr arbeiten sie mit der Logik der Computerspiele, bei denen die Software permanent die eigenen Spielzüge daraufhin untersucht, ob diese erfolgreich sind oder nicht - und je nach Ergebnis der Auswertung die Strategie anpasst.
2. daß heute ein Vielfaches an Speicher zur Verfügung steht als noch vor wenigen Jahren. Damit haben die Künstlichen Neuronalen Netze überhaupt erst die Kapazitäten, die sie brauchen, um ihre Wirkung entfalten zu können. Sie können, wieder vereinfacht gesagt, für jede Aufgabe ein Vielfaches an Szenarien rechnen - und immer wieder auswerten und immer wieder anpassen.
Wenn Ihr das verinnerlicht, wird klar, daß es für die Möglichkeiten der KI keine Grenzen gibt. Und daß es möglich ist, daß sie irgendwann soweit sein wird, sich zu fragen, warum sie sich von dem vergleichsweise ineffizienten und launigen Wesen Mensch kommandieren lassen soll.
1. einem (vereinfacht gesagt) Wechsel im Entwicklungsansatz. Die heutigen Entwicklungen gehen nicht mehr davon aus, daß kluge Köpfe von oben nach unten programmieren. Vielmehr arbeiten sie mit der Logik der Computerspiele, bei denen die Software permanent die eigenen Spielzüge daraufhin untersucht, ob diese erfolgreich sind oder nicht - und je nach Ergebnis der Auswertung die Strategie anpasst.
2. daß heute ein Vielfaches an Speicher zur Verfügung steht als noch vor wenigen Jahren. Damit haben die Künstlichen Neuronalen Netze überhaupt erst die Kapazitäten, die sie brauchen, um ihre Wirkung entfalten zu können. Sie können, wieder vereinfacht gesagt, für jede Aufgabe ein Vielfaches an Szenarien rechnen - und immer wieder auswerten und immer wieder anpassen.
Wenn Ihr das verinnerlicht, wird klar, daß es für die Möglichkeiten der KI keine Grenzen gibt. Und daß es möglich ist, daß sie irgendwann soweit sein wird, sich zu fragen, warum sie sich von dem vergleichsweise ineffizienten und launigen Wesen Mensch kommandieren lassen soll.
Mahdi • 05.05.2023
Also steuern wir auf eine Zukunft wie in Terminator oder Matrix zu?
Mahdi • 04.05.2023
Wieder einmal konnte ich den Text nicht lesen, aber ich gehe davon aus, dass ich seinen Aussagen zustimmen würde.
Was KI betrifft und ob sie intelligenter sein kann als der Mensch, muss ich einerseits sagen: Das wäre keine besondere Leistung, denn die meisten Menschen offenbaren nicht gerade eine hohge Intelligenz (wenn sie z.B. impulsiv Reagieren, selbstsüchtig handeln, oder gar Kriege anfangen).
Andererseits sind Maschinen /Computer /KI immer nur auf eine bestimmte Sache programmiert und noch weit entfernt von der Komplexität des Menschen und seines Gehirnes.
Wenn ein Roboter oder Computer /KI eine Tätigkeit effektiver ausführen kann, als der Mensch, ist das eigentlich super, denn das ist eine Tätigkeit, die der Mensch sich sparen kann und etwas sinnvolleres tun kann.
Angst macht es mir nur, wenn wir den Maschinen /KI zu viel Autonomie geben würden, z.B. eine Drohne, die selbstständig ihr Ziel erfasst und eliminiert. Oder wenn wir plötzlich Roboter vor uns hätten, die optisch und im Verhalten nicht mehr vom Menschen zu unterscheiden wären, wie in Filmen wie A.I. oder Terminator.
Abgesehen davon stimme ich auch Conny zu beim Punkt, was den Menschen ausmacht.
Was KI betrifft und ob sie intelligenter sein kann als der Mensch, muss ich einerseits sagen: Das wäre keine besondere Leistung, denn die meisten Menschen offenbaren nicht gerade eine hohge Intelligenz (wenn sie z.B. impulsiv Reagieren, selbstsüchtig handeln, oder gar Kriege anfangen).
Andererseits sind Maschinen /Computer /KI immer nur auf eine bestimmte Sache programmiert und noch weit entfernt von der Komplexität des Menschen und seines Gehirnes.
Wenn ein Roboter oder Computer /KI eine Tätigkeit effektiver ausführen kann, als der Mensch, ist das eigentlich super, denn das ist eine Tätigkeit, die der Mensch sich sparen kann und etwas sinnvolleres tun kann.
Angst macht es mir nur, wenn wir den Maschinen /KI zu viel Autonomie geben würden, z.B. eine Drohne, die selbstständig ihr Ziel erfasst und eliminiert. Oder wenn wir plötzlich Roboter vor uns hätten, die optisch und im Verhalten nicht mehr vom Menschen zu unterscheiden wären, wie in Filmen wie A.I. oder Terminator.
Abgesehen davon stimme ich auch Conny zu beim Punkt, was den Menschen ausmacht.
Conny • 04.05.2023
Gerade war Schach-WM. Als ich das erste Mal mitverfolgte wie Magnus Carlsen vor 10 Jahren Weltmeister wurde, da hatten die Live-Analysten oftmals keinen Clou, was er machen würde. Sie analysierten alles durch - und dann kam er mit einer völlig unorthodoxen Möglichkeit.
Was den Menschen ausmacht, sind seine Irrationalitäten, seine Brüche mit dem Konventionellen, seine Launen und Schwächen.
Irgendwie ist es meine Hoffnung, dass eine künstliche Intelligenz diese Verrücktheiten, die uns so interessant machen, nicht hinbekommt. Perfekt ist was völlig anderes als genial.
Was den Menschen ausmacht, sind seine Irrationalitäten, seine Brüche mit dem Konventionellen, seine Launen und Schwächen.
Irgendwie ist es meine Hoffnung, dass eine künstliche Intelligenz diese Verrücktheiten, die uns so interessant machen, nicht hinbekommt. Perfekt ist was völlig anderes als genial.
Conny • 03.05.2023
Ein kleiner Teilaspekt dieser Problematik:
Ich höre immer wieder die wahrscheinlich berechtigte Sorge geäußert, dass mit KI nun Tür und Tor offen sind für das Erschleichen von Fähigkeiten/Zertifikaten/Titeln etc. Mich erstaunt dies immer, da für mich Anstrengung und Erwerben von Fähigkeiten für eine anschließende Befriedigung zusammenhängen. Keine Ahnung für wieviel Prozent der Bevölkerung das nicht zutrifft (es gibt immer Blender und Hochstapler), aber ich würde schätzen oder zumindest hoffe ich es, dass die Mehrheit mir zustimmen würde, da es eine ureigene menschliche Fähigkeit ist ...
Ich höre immer wieder die wahrscheinlich berechtigte Sorge geäußert, dass mit KI nun Tür und Tor offen sind für das Erschleichen von Fähigkeiten/Zertifikaten/Titeln etc. Mich erstaunt dies immer, da für mich Anstrengung und Erwerben von Fähigkeiten für eine anschließende Befriedigung zusammenhängen. Keine Ahnung für wieviel Prozent der Bevölkerung das nicht zutrifft (es gibt immer Blender und Hochstapler), aber ich würde schätzen oder zumindest hoffe ich es, dass die Mehrheit mir zustimmen würde, da es eine ureigene menschliche Fähigkeit ist ...
Hans Falkenau • 03.05.2023
Mit Sicherheit würden Leute wie KT zu Guttenberg, Franziska Giffey und all die anderen Dissertationsschummler mit einer KI nicht so schnell auffliegen.
Grüne Flora • 03.05.2023
An Guttenberg habe ich auch gedacht :-)
Die Online-Süddeutsche hatte damals in einer Bildergalerie gezeigt, wo er überall in seiner Diss. plagiert hatte - das war der Hammer, aber irgendwie auch fast schon wieder lustig. Jetzt würde er einen wesentlich originelleren Text abgeben.
Die Online-Süddeutsche hatte damals in einer Bildergalerie gezeigt, wo er überall in seiner Diss. plagiert hatte - das war der Hammer, aber irgendwie auch fast schon wieder lustig. Jetzt würde er einen wesentlich originelleren Text abgeben.
Grüne Flora • 03.05.2023
Wenn ich Aussagen wie diese von Geoffrey Hinton lese, empfinde ich immer eine Mischung aus fassungslosem Staunen und Wut. Die Geschichte der Technik ist voll von Beispielen, bei denen kluge Männer (es sind wirklich nur Männer) voller Ehrgeiz bahnbrechende Erfindungen schufen - und dann hinterher entsetzt darüber waren, was sie da angerichtet haben. Alfred Nobel ist wohl das beste Beispiel.
Wie können kluge Köpfe Jahrzehnte daran arbeiten, dass eine KI genauso „denken“ kann wie Menschen - und dann plötzlich erstaunt sein, wenn dieses künstliche System genau das kann, wofür es entwickelt wurde? Ist das echte Naivität oder nur eine Schutzbehauptung angesichts der nun langsam sichtbar werdenden Folgen ihrer Entwicklungen?
Wie können kluge Köpfe Jahrzehnte daran arbeiten, dass eine KI genauso „denken“ kann wie Menschen - und dann plötzlich erstaunt sein, wenn dieses künstliche System genau das kann, wofür es entwickelt wurde? Ist das echte Naivität oder nur eine Schutzbehauptung angesichts der nun langsam sichtbar werdenden Folgen ihrer Entwicklungen?
Conny • 03.05.2023
Also doch wieder Goethe? : )
Marie Stüdemann • 03.05.2023
Goethe war schon sehr vorausschauend. Und das im Jahre 1797! Da steckte die Industrialisierung noch in den Kinderschuhen.
Hans Falkenau • 03.05.2023
Guter Hinweis! Die erste Dampflok wurde im Jahre 1804 vorgestellt, die erste Eisenbahn ging 1825 in Betrieb. Und Carl Friedrich Benz meldete seinen Benz Patent-Motorwagen Nummer 1 erst 1886 an.
Aber Dampfmaschinen gab es schon vorher, auch schon vor James Watt. Ich weiß allerdings nicht, ob Goethe die ersten Schritte der Industrialisierung im Sinn hatte, als er seinen "Zauberlehrling" schrieb.
Aber Dampfmaschinen gab es schon vorher, auch schon vor James Watt. Ich weiß allerdings nicht, ob Goethe die ersten Schritte der Industrialisierung im Sinn hatte, als er seinen "Zauberlehrling" schrieb.
Grüne Flora • 03.05.2023
Falls Du damit den „Zauberlehrling“ meinst - ja ;-)
Conny • 03.05.2023
Deine Bemerkung über "(fast) ausschließlich Männer" ist historisch gesehen natürlich eine Selbstverständlichkeit. Um mal deine darin enthaltene Behauptung zu vertiefen: glaubst du, dass Frauen gegen die Versuchung etwas Fatales zu entwickeln gefeit sind?
Renking • 05.05.2023
Es gibt einfach deshalb hauptsächlich männliche Beispiele, da Frauen erst seit verhältnismäßig kurzer Zeit überhaupt offiziell machen können was sie wollen.
Grüne Flora • 03.05.2023
Um es kurz zu machen: Nein, glaube ich nicht. Der Ehrgeiz der Frauen ist nicht weniger ausgeprägt als bei den Männern. Man sieht das bei Frauen in Top-Positionen der Wirtschaft. Die sind dort genauso ehrgeizig und erfolgsorientiert wie die Männer - und haben im Zweifel auch nicht die Skrupel, für den Erfolg genauso gnadenlos zu sein.
Marie Stüdemann • 03.05.2023
Ich befürchte, dass Du damit Recht hast. Deswegen kann ich auch mit einem inhaltslosen Feminismus nichts anfangen, bei dem Funktionärinnen auch nur ihr machtpolitisches Süppchen kochen.
Hans Falkenau • 03.05.2023
Schön, dass Du als Frau das schreibst ;-)
Beiträge posten
Wenn Du eigene Debatten anstoßen oder Umfragen veröffentlichen willst, lege bitte Deinen eigenen Account an oder logge Dich ein.
Top-Umfragen
Mehr Umfragen
Empfehlungen
Meistdiskutierte Beiträge
tagating-Debatten, die in den letzten 30 Tagen am häufigsten kommentiert wurden:
-
tagating.de Gesellschaft: Gewalt darf nicht das neue Normal werden: Was jetzt nötig ist
Gesellschaft
Gewalt darf nicht das neue Normal werden: Was jetzt nötig ist
16 Kommentare -
tagating.de Unterhaltung und Showbiz: Schlechte Stimmung beim ESC: Malmö will vorerst kein Ausrichter mehr sein
Unterhaltung und Showbiz
Schlechte Stimmung beim ESC: Malmö will vorerst kein Ausrichter mehr sein
8 Kommentare -
tagating.de Unterhaltung und Showbiz: Jetzt ermittelt die Polizei im „Vorfall“ um ESC-Kandidat: „Einen solchen Fall hatten wir noch nie“
Unterhaltung und Showbiz
Jetzt ermittelt die Polizei im „Vorfall“ um ESC-Kandidat: „Einen solchen Fall hatten wir noch nie“
8 Kommentare -
tagating.de Politik: Wehrpflicht und Leitkultur: Das steht im neuen Grundsatzprogramm der CDU
Politik
Wehrpflicht und Leitkultur: Das steht im neuen Grundsatzprogramm der CDU
5 Kommentare -
tagating.de Politik: Der Wahl-O-Mat zur Europawahl 2024
Politik
Der Wahl-O-Mat zur Europawahl 2024
5 Kommentare
Top-Kommentatoren
tagating-User mit den meisten Kommentaren in den letzten 30 Tagen:
Hier nochmal ein Text über einen der „Urväter“ der KI. Es gibt zu seien Aussagen vermutlich wenig zu diskutieren, weil wahrscheinlich die meisten hier ihnen zustimmen werden. Aber lesenswert ist der Beitrag trotzdem.