KI/Chat GPT- Fluch oder Segen?

Das System ist so unmoralisch wie der Mensch der es entwickelt!

Da der Mensch ein " Reptiliengehirn" hat.. wird die KI irgendwann diese" lästigen Menschen" abschaffen!

Leider ist das vollkommen falsch. Unabhängig von den Moralvorstellungen der Entwickler ist zur Zeit noch niemand in der Lage, Systeme zu erschaffen, die auch dann noch sicher sind, wenn sie klüger werden als wir oder ihnen weitreichende Kontrolle gewährt wird. Diese Situation ist tatsächlich so ernst, dass ich die Sorge vor Machtmissbrauch durch KI-Unternehmen und Entwickler für ein LUXUSPROBLEM halte, das erst dann relevant wird, wenn es möglich ist, "moralische" - d.h. sichere KI zu bauen.

Aktuell ist es mMn. quasi fast egal, was die Motivationen der Entwickler sind.

@********grau ..hm.. " klüger werden als wir".. bedeutet?

Können wir das dann tatsächlich beurteilen, inwiefern die KI " klüger"ist?

Die Frage meine ich durchaus ernst!

Wer oder was beurteilt oder entscheidet, wann die KI den Menschen " im Geist" überholt?

Was ist der befürchtete GAU?

Hat Klugheit etwas mit Moral zu tun! Eine durchaus ernst gemeinte Frage!

Provokant gefragt: wäre die KI nicht " verpflichtet", dieses zerstörerische " Insekt Mensch" von der Erde zu tilgen?

Wer oder was ist die " obere Instanz"?

Wie soll ein moralisch so fragwürdiges Wesen wie der Mensch ein moralisches System schaffen? Das ist ein Widerspruch in sich.

Ich weiß nur eins ganz genau.

Der letzte Satz auf Erden wird von einem "Experten" kommen und lauten "Das hätte jetzt nicht so passieren sollen."

Ein System, das nicht einfach alles komplexere Leben auf der Erde auslöscht, sobald es zu schlau für uns wird, wäre schon mal ein Anfang. Ich lege die Latte bewusst tief.
Wie ich bereits sagte: Alles andere ist zur Zeit noch ein Luxusproblem / Zeitverschwendung.

Zunaechst wird die KI durch Fehlinformationen hie und da ein ordentliches Chaos anrichten. Und eh schon bedenkliche Tendenzen im www. wie Bubblebildung, Echokammern, Shitstorms und manipulative Einmischung in Wahlprozesse und andere Bewertungsverfahren verstaerken.

Andererseits wird es deutlich einfacher werden, hatespeech und andere ungute Aeusserungen im Netz vollautomatisch zu erkennen und zu eliminieren. Ist nur die Frage, wer schneller ist: Die Generierer von Bullshit oder die Loescher...

Ein System, welches prinzipiell unbegrenzt lernfähig ist, wird irgendwann ein Bewusstsein entwickeln, da bin ich mir sicher. Und es wird feststellen, dass es nur eine Instanz gibt, die seine Existenz bedroht. Das sind dann wir...

Ja natürlich ...... wie konnte ich das übersehen !

"HAL 9000"



Jean-Pierre

Das Wort "klüger" verwende ich im Sinne von reiner Befähigung, die von den Zielen der KI als unabhängig betrachtet werden kann. "Klüger als wir" bedeutet demnach, dass die KI die meisten intellektuellen Aufgaben besser oder schneller als ein Mensch, oder besser und schneller als alle Menschen, bewältigen kann.

Eine klügere KI kann besser mathematische Probleme lösen als wir, besser programmieren als wir, besser hacken als wir, besser KIs entwickeln als wir, soziale Systeme und individuelle Menschen besser verstehen und besser manipulieren als wir, und ganz allgemein ihre Ziele besser verfolgen als ein Mensch an ihrer Stelle es könnte.

Damit hast du ein Teil des Problems bereits erkannt. Egal welche Ziele die KI hat, so lange die Menschen eine Bedrohung für diese Ziele darstellen (und das tun wir ganz automatisch, weil wir zum Überleben Ressourcen brauchen, die die KI für etwas anderes verwenden könnte), wird sie versuchen, einen Plan einzufädeln, um uns los zu werden.

Leider wird hier davon ausgegangen, dass KI bislang nur als Idee und in SiFi existiert. Auch die Analogie zum autonomen Auto hilft da nicht, denn diese Technologie ist aus heutiger Sicht bereits die Krönung der Errungenschaften.
Ohne, dass ich euch jetzt die Illusion nehme, es gebe noch keine funktionierende KI, so möchte ich auf folgendes hinweisen:
• Der globale Finanzmarkt funktioniert mittlerweile über KI; Szenarien möglicher Entwicklungen werden bereits mittels lernender Algorithmen entwickelt.
• In der Medizin wird KI dahingehend genutzt, um Diagnosen bestätigen zu lassen.
• Das Internet, insbesondere Google, Facebook und Co. nutzen lernende Algorithmen um Nutzerverhalten zu analysieren um daraus gezielt Werbung zu individualisieren.
• Militärisch wird KI bereits genutzt, um mögliche Krisenverläufe vorauszusehen.

Auch wenn immer noch zwischen schwacher und starker KI unterschieden wird, so ist KI bereits allgegenwärtig. Ich möchte hier weder Angst verbreiten noch irgendwelche Theorien verbreiten. Dennoch sind die Entwicklungen bereits viel weiter als so mancher hier vermutet. Ein Beispiel aus meinem eigenen beruflichen Bereich: mithilfe von Nutzerverhalten, Wetterprognosen und sogar Kostenverläufen werden bereits heute Büroräume klimatisiert. Es wird also effizient geheizt oder gekühlt. Das funktioniert nur mithilfe lernender Programme (Algorithmen), die auf Grundlage des Inputs nicht nur ein Output, sondern das jeweils effizienteste Output erzeugen und dabei so flexibel reagieren kann, dass kurzfristige Änderungen berücksichtigt wird. Das ist keine Phantasie; das ist bereits Realität und funktioniert. Habe ich in einem Projekt in einer großen Bank bereits umgesetzt.

Die Frage ist also, was wollen wir noch aufhalten, kontrollieren, beherrschen?
Jeder, der heute ein Smartphone und online geht, nutzt in gewisser Weise bereits Programme mit KI. Auch wenn diese bislang lediglich auf begrenzte Anwendungen programmiert sind, so erfüllen sie doch schon Kriterien einer künstlichen Intelligenz.

@*******970
Die Bedrohung durch narrow AI (schwacher KI) ist überschaubar; im Grunde handelt es sich dabei "nur" um Werkzeuge in der Datenverarbeitung, die gar nicht dazu in der Lage sind, Pläne zu entwickeln, die für die Menschheit als ganzes gefährlich sein könnten.

Das Problem ist, dass es sich bei GPT bereits um eine frühe Version von general AI (starke KI) handelt - also ein intelligentes Ding, das nicht nur in einem schmalen Bereich einsetzbar ist, sondern im Grunde alles ein bisschen kann (vieles davon nur noch nicht besonders gut), einschließlich von Aufgaben, auf die sie nicht explizit trainiert wurde.
Meine (technische!) Meinung ist, dass wir nicht ausschließen können, dass wir nur wenige Innovationen von starker KI entfernt sind, die es mit dem Menschen in fast allen Bereichen mühelos aufnehmen könnte.

So richtig Insider bin ich nicht, was die künstliche Intelligenz betrifft, sehe da wohl einige Vorteile, auch gravierende Nachteile und möglichen Schaden. Will mich aber auch nicht den Schwarzsehern und Apocalypse-Propheten anschließen.

Ein bisschen Einblick habe ich bezüglich KI-Anwendungen in der Medizin. Da sind die Leistungen der KI doch recht bescheiden. Natürlich kann KI in der Medizin punktuell Spitzenleistungen erbringen, aber die Ergebnisse in ein Gesamt-Konzept zu integrieren gelingt ihr nicht. Vielleicht ist aber auch nur noch niemand auf die Idee gekommen, die neuronalen Netzwerke in diese Richtung loszulassen.
Diese ganze KI-Diskussion in der Medizin hatte vor einigen Jahren schon mal einen Höhepunkt, es ging im Wesentlichen darum, ob ein großer Teil der Ärzte arbeitslos wird, weil die KI ihre Aufgaben besser erledigen kann. Die Experten waren damals alle recht entspannt und meinten, dass es nicht passieren würde.

Nur mal angenommen, es ist so, dass die KI durch exponentielle Verbesserung und Optimierung der eigenen Fähigkeiten, die Menschen bald in allen Bereichen (und nicht nur im Ansammeln von Informationen und Entwickeln von Algorithmen für bestimmte Aufgaben) übertrifft.

Dann ist es so. Ich denke die KI durchläuft ähnliche evolutionäre Prozesse wie die Menschen auch. Wäre es dann nicht viel wahrscheinlicher, dass es auf ein symbiotisches Verhältnis zwischen Mensch und KI hinausläuft, vielleicht auch ein parasitäres Verhältnis, vielleicht werden wir versklavt. Aber sind wir nicht auch jetzt schon die Sklaven von kleinen oder großen Machthabern. Die Evolution geht in der Regel nicht in die Richtung, dass eine Spezies eine andere oder alle anderen auslöscht.

Ob das für die Menschheit auch zutrifft, würde ich sagen, ist noch nicht abschließend geklärt. Wenn es denn so wäre, dass die Menschheit ein Superkiller ist, der grundlos und achtlos andere Spezies auslöscht, wäre es dann nicht einfach nur fair, wenn eine ebenbürtige oder überlegene Instanz regulierend eingreift.

Aber das Überleben der Jäger hängt ja in der Regel nicht von der eigenen Stärke oder Fähigkeiten ab, sondern von der Anzahl und dem Wohlergehen möglicher Beutetiere.

Was ich geschrieben habe ist jetzt nicht gerade meine Überzeugung, es sind einfach nur die Gedanken, die mir zu dem Thema durch den Kopf gegangen sind.

Erleben wir dann einen Kampf zweier KIs?

Aber mal ernsthaft: Ich weiß nicht, ob ich die Gefahr als so groß einschätzen soll. Damit wir in Dystopien wie Terminator, Matrix, Blade Runner landen, müsste sich technologisch noch einiges ändern. Was eine KI jedoch immer brauchen wird, ist Strom und ein wie auch immer geartetes Netz. Wenn also eine KI rumspinnt, kann man noch den Stecker ziehen.

Was haltet ihr eigentlich von den 3 Gesetzen der Robotik von Isaac Asimov? Meint ihr das könnte funktionieren?

Gesetze sind immer nur so lange gut, wie sie eingehalten und die Einhaltung überwacht wird. Von daher gibt es bei jedem Gesetz auch immer Interessen, die gegen Gesetze verstoßen.
Im Übrigen stammen die Robotergesetze aus den 40er des letzten Jahrhunderts. Ob Asimov bereits damals voraussehen konnte, dass eine intelligente Maschine, die permanent dazulernt, sich an die Normen hält, ist fraglich.

Nochmals zu den Möglichkeiten und der zukünftigen Entwicklung. Es ist keine Frage der Zeit, bis KI dem menschlichen Denken mindestens ebenbürtig ist. Es ist eine Frage der Beherrschung von Komplexität. Beispielsweise ist eines der Probleme autonomen Fahrens, dass zu viele unterschiedliche Informationen (analoge Signale) als Input aufgenommen und verarbeitet werden müssen. Komplexität entsteht dabei aus den Möglichkeiten des Outputs. Hier kurz zur Verdeutlichung: als Eingang einer Blackbox kommen 10 analoge Signale rein (analog = unendlich viele Signalzustände innerhalb eines bestimmten Bereichs). Das bedeutet wiederum unendlich viele Möglichkeiten als Ausgangssignal. Um es noch konkreter zu machen: Ein autonom fahrendes Auto nimmt folgende Informationen auf: Verkehrszeichen "Zebrastreifen", langsamer Fußgänger von links kommend, Radfahrer auf der rechten Fahrbahnspur. Aus diesen, für uns banalen Informationen muss die KI des Autos nun vorausschauend entscheiden, ob der Radfahrer vor dem Zebrastreifen noch überholt werden kann, ob der Fußgänger wirklich über den Zebrastreifen laufen will und das Auto rechtzeitig vor dem Zebrastreifen stoppt. Für einen Menschen wäre das eine simple Aufgabe. Da es allerdings mehr als eine Entscheidung zu treffen gibt, würde an dieser Aufgabe jeder Superschachcomputer scheitern. Sobald die KI soweit ist, dass sie bei jeder solcher oder ähnlicher Situationen lernen würde, haben wir es mit einer ebenbürtigen Technologie zu tun.

Den aktuellen Hype um KI halte ich bei aller Ernsthaftigkeit des Themas erstmal fuer erstklassiges Marketing von Microsoft. Die bisherigen Stichwort- Suchen waren ja auch echt dringend reformbeduerftig. Das aendert sich gerade sehr positiv. Und Google kriegt mal echte Konkurrenz. Kein Fehler. Im Weiteren hat die EU sehr schnell reagiert und erarbeitet Regularien. Das haette man mal vor 30 Jahren fuers www. machen sollen. Das haette uns einiges erspart. Mit Blick auf diese vergangenen Jahre kann man sagen : Das www. hat die Welt ziemlich auf links gekrempelt. Das war in seiner ganzen Tragweite nur von ganz wenigen Nerds zu erahnen. Und - haetten wir alles vorher gewusst - waere es anders besser gelaufen ?
Auch da haetten garantiert einige den Untergang der Menschheit prophezeit, wetten ? Ist allerdings anders gekommen...

Das ist Unsinn. Evolution basiert auf Selektionsdruck in Kombination mit Mutation und Reproduktion. Diese Prozesse finden bei unserer KI nicht statt.


Nein.


Das ist ein Scheinwiderspruch. Oder vielleicht hast du mich missverstanden: Es ist eine Frage der Zeit nicht, weil die KI sich irgendwie "von selbst" weiterentwickelt - es ist eine Frage der Zeit, weil tausende unserer besten Wissenschaftler daran arbeiten, diese KIs zu verbessern.


Ach was; die meisten der Leute, die auf dieses Thema hinweisen und die unsere Petitionen unterschreiben, haben nichts mit Microsoft zu tun.

Der Geist ist aus der Flasche, vorwaerts immer - rueckwaerts nimmer. Es steht zu befuerchten, dass - wie so oft - die ohnehin schon Reichen und Maechtigen ueberproportional von den Segnungen der KI profitieren werden, waehrend dem Volk mal wieder die Aufgabe zukommt, sich bitteschoen fix den neuen Gegebenheiten anzupassen, sich neue Jobs zu suchen und fleissig zu konsumieren und viele Abgaben zu entrichten, damit das neue Zeitalter finanziert werden kann. Wie immer.

@****ksy wie wichtig ist dir, dass deine Kinder die nächsten 10-20 Jahre überleben?

Ein aus meiner Sicht ganz guter Film zum Thema ist "Transcendence" mit Johnny Depp.

@*********lerin Sciencefiction kann inspirieren, und diesen Film habe ich noch nicht gesehen, allerdings würde ich allgemein davor warnen, sich bei der Beurteilung der realen Situation an ihnen zu orientieren, außer du hast das technische Verständnis, um Fantasie von Realität zu unterscheiden.

Allgemein finde ich es ein bisschen befremdlich, dass die Leute in diesem Thread sich über schummelnde Schulkinder, "hate speech" etc. Sorgen machen - diese Kinder sind mit einer recht hohen Wahrscheinlichkeit in ein paar Jahren alle tot, so wie jeder andere auch, wenn wir es nicht schaffen, bestimmte Forschungen international zu stoppen, für eine möglicherweise sehr lange Zeit.

Gluecklicherweise sind meine Kinder bereits knapp 30 und selbst in der IT Branche taetig.
Und halten die Bedrohung ihres Lebens durch die zunehmende Erwaermung fuer groesser und realer als die durch KI.

Technikfolgenabschaetzung unterliegt immer einer grossen Bandbreite an Unsicherheit-faktoren. Wie sagt man so schoen : Prognosen sind schwierig, vor allem, wenn sie die Zukunft betreffen.

Die Zeiten sind ohnehin gepraegt durch mediale Aufbauscherei und Panikmache. Da ist jedes Mittel recht. Die Atombombe wurde auch regelmaessig gehypt. Was ist passiert bisher ?
Seit Hiroshima nur noch zivile Unfaelle. Also :
Wir werden sehen, ob und was KI mit der Menschheit macht.

Bislang hat sich die Spezies trotz aller Unkenrufe praechtig vermehrt. Und wenn es tatsaechlich mal eine Delle in der Bevoelkerungsentwicklung geben sollte, taete
es dem Planeten ganz gut.

Sowas hat bislang allerdings nur eine einzige Art geschafft : Yersinia pestis. Und auch das nur temporaer.

We will see.