3.3 Superintelligenz

Question 1

Superintelligenz - Idee

Answer 1

• baut auf Vorstellung von KI als menschlichem Äquivalent auf
• Glaube, dass KI Fähigkeiten des menschlichen Geistes übertreffen könnte
• nicht durch unsere Wissenschaft und Technik, sondern durch KI selbst

Question 2

Superintelligenz - Selbstverbesserung

Answer 2

• keine Gedächtnis- oder Abrufbeschränkungen
  -> Aneignung großer Menge vorhandenem Wissen
• Wissen und Problemlösungskapazität -> selbst verbessern

-» KI nächster Generation kann überlegenen Ressourcen und Fähigkeiten zur Selbstverbesserung nutzen
-»> Version noch höherer Intelligenz

Question 3

technologische Singularität - Definition

Answer 3

Punkt, an dem exponentielles Wachstum maschineller Intelligenz einsetzt

Question 4

technologische Singularität - wichtigste Denker

Answer 4

• Vernor Vinge
• Ray Kurzweil

Question 5

technologische Singularität - Aussage Vinge

Answer 5

• In den 1990ern
• in kommenden dreißig Jahren
• durch technologische oder biologische Mittel oder Kombination
  -> höhere Intelligenz als die des Menschen
• sobald KI-Systeme ausreichend entwickelt
  -> Prozess einer technologischen Singularität
• kontinuierliche Verbesserungen, die sich selbst verstärken und somit immer schneller werden

Question 6

technologische Singularität - Aussage Kurzweil

Answer 6

• 2005 Buch „The Singularity is Near“
• Fortschritte in der Intelligenz nicht biologisch
• werden auf künstlich geschaffenem Substrat statt auf Neuronen basieren

-> „eine Billion Mal leistungsfähiger[e]“ Intelligenz

Question 7

technologischen Singularität - Gegenargumente

Answer 7

• Mensch noch nicht übertroffen
• steigende Komplexität
• Abflachen exponentieller Leistungskurven
• Nachahmen des Menschen bei gleichzeitiger Kontrolle
• kollektiven Intelligenz statt individueller Geist

Question 8

technologischen Singularität - Gegenargumente - Mensch noch nicht übertroffen

Answer 8

• kann erst dann eintreten, wenn maschinelle Intelligenz menschliche in allen Bereichen übertrifft
• ist noch nicht der Fall
• unklar ob in naher Zukunft der Fall
• GPT-3 hat diese Diskussion jedoch angefacht

Question 9

technologischen Singularität - Gegenargumente - steigende Komplexität

Answer 9

• Entdeckungen im Bereich der KI wissenschaftlich und wirtschaftlich erfolgreich
• jedoch steigende Komplexität mit jeder neuen Entdeckung
  -> nächste Entdeckung werden schwieriger
• “Diminishing returns”-Argument:
  Punkt an dem Aufwand Nutzen übersteigt

Question 10

technologischen Singularität - Gegenargumente - Abflachen exponentieller Leistungskurven

Answer 10

• Erfolge der KI können nicht ewig anhalten
• kein Trend dauert ewig an
• Exponentielle Leistungskurven gehen schließlich in S-Kurven über

Question 11

technologischen Singularität - Gegenargumente - Nachahmen des Menschen bei gleichzeitiger Kontrolle

Answer 11

• Allgemeingültigkeit menschlicher Intelligenz abhängig von vielen mentalen Faktoren:
  Emotionen, Motivation, Gefühl von Autonomie und Handlungsfähigkeit, Voreingenommenheiten, kognitive Defizite
• Maschine muss diese erreichen oder nachahmen und gleichzeitig Kontrolle über eher mechanische und computerähnliche Aspekte behalten

Question 12

technologischen Singularität - Gegenargumente - kollektiven Intelligenz statt individueller Geist

Answer 12

• Stärke des menschlichen Geistes zum Großteil in sozialen Dimension
• Leben gepträgt von kollektiver Intelligenz unserer Gesellschaft und Arbeitsteilung
• kein Mensch kann nach gesamten menschlichen Wissen streben