OFFENER BRIEF VON TECH-GRÖSSE

:

Gruppe um Elon Musk: Stoppt die Entwicklung noch größerer KIs

- VON ALEXANDER ARMBRUSTER

- -AKTUALISIERT AM -11:49

Bildbeschreibung einblenden

Namhafte Unternehmer und KI-Fachleute sprechen eine dramatische Warnung aus. Sie gipfelt in der Frage: „Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?“

- MERKEN

- 37

- 32

3 Min.

Namhafte Forscher in der Künstlichen Intelligenz und bekannte Technologie-Unternehmer wie Tesla-Chef Elon Musk und Apple-Mitgründer Steve Wozniak fordern in einem dramatischen Aufruf, die Entwicklung riesiger KI-Systeme sofort zu unterbrechen. „KI-Systeme mit menschlich-kompetitiver Intelligenz können gravierende Risiken für die Gesellschaft und die Menschheit darstellen“, heißt es in dem auf der Webseite der amerikanischen Denkfabrik „Future of Life Institute“ veröffentlichten offenen Brief.

Alexander Armbruster

Verantwortlicher Redakteur für Wirtschaft Online.

- Folgen

Dort heißt es weiter: „Deshalb fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger sind als GPT-4, sofort für mindestens sechs Monate zu unterbrechen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen.“ Wenn eine solche Pause nicht schnell umgesetzt werden könne, sollten die Regierungen eingreifen und ein Moratorium verhängen.

Zu den Unterzeichnern des Aufrufs gehören neben Musk und Wozniak der Pinterest-Mitgründer Evan Sharp sowie eine Vielzahl ausgewiesener Informatiker und auf KI spezialisierter Fachleute, darunter Stuart Russell, Grady Booch, der Turing-Award-Gewinner Yoshua Bengio, der am MIT lehrende Physiker Max Tegmark und der New Yorker Neurowissenschaftler Gary Marcus, aber auch Vertreter anderer Disziplinen wie etwa der israelische Historiker Yuval Noah Harari, der mit mehreren Bestsellern über die gesellschaftlichen Folgen des technologischen Fortschritts weltbekannt geworden ist. Insgesamt haben den Brief inzwischen mehr als 1000 Menschen unterzeichnet.

„Gefährlichen Wettlauf stoppen“

Die Autoren machen unmissverständlich klar, worum es aus ihrer Sicht geht. „Heutige KI-Systeme werden bei allgemeinen Aufgaben immer konkurrenzfähiger für den Menschen, und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollten wir alle Jobs automatisieren, auch die erfüllenden?“, fragen sie und spitzen hernach weiter zu: „Sollten wir nichtmenschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen sein, überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?“

- Kommentare:

Veröffentlicht/Aktualisiert:

57

Empfehlungen:

,

8

Die Aufgabe, Antworten darauf zu geben und entsprechende Entscheidungen zu treffen, dürfe nicht an „nicht gewählte Technologie-Anführer delegiert werden“. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind. Dieses Vertrauen muss gut begründet sein und mit dem Ausmaß der potentiellen Auswirkungen eines Systems zunehmen.“

Kritik an „Blackbox-Modellen“

In dem Aufruf nehmen die Autoren mehrfach ausdrücklich Bezug auf das amerikanische KI-Unternehmen Open AI, das gerade unter dem Namen GPT-4 die neueste Version seines allgemeineren KI-Systems öffentlich bekannt machte, das gegenüber seinem Vorgänger nicht nur noch vielseitiger mit Sprache und Text umgehen kann, sondern auch mit Bildern.

Das kalifornische Start-up wurde rund um den Globus bekannt, als es im Herbst des vergangenen Jahres eine auf seiner KI basierenden Nutzeroberfläche unter dem Namen ChatGPT für jedermann zugänglich machte. Viele Millionen Menschen auf der ganzen Welt probierten das KI-System aus und erlebten so erstmals, wie weit diese Technologie inzwischen ist, wenn es darum geht, Fragen zu beantworten oder auch längere Textmengen zu verfassen. Das Programm verblüffte auch viele Fachleute.

Seit Jahren schon investiert indes nicht nur Open AI mithilfe des Internet-Unternehmens Microsoft enorme Mittel darin, solche riesigen Sprach-KI-Systeme zu entwickeln, nein, alle führenden Tech-Konzerne wie Alphabet (Google) oder Meta (Facebook), aber etwa auch chinesische Universitäten arbeiten daran. In Deutschland entwickelt das in Heidelberg beheimatete Start-up Aleph Alpha solche Systeme. Gerade seitdem ChatGPT breit verfügbar ist, hat die Diskussion indes noch einmal merklich zugenommen, welches Potential in diesem Ansatz steckt und wie leistungsstark KI-Systeme werden können, wenn sie im Kern mit diesen Methoden einfach immer größer konstruiert, mit noch mehr Rechenleistung ausgestattet und noch mehr Daten trainiert würden.

Die Autoren des Aufrufs machen zugleich klar, dass sie nicht die Weiterentwicklung von KI-Systemen insgesamt anhalten wollen. Sie fordern „lediglich, dass der gefährliche Wettlauf zu immer größeren, unvorhersehbaren Blackbox-Modellen (...) gestoppt wird“. Mit „Blackbox-Modell“ verweisen sie darauf, dass häufig nicht klar nachvollziehbar ist, warum eine riesige Sprach-KI genau zu der Aussage gelangt ist, die sie getroffen hat.

„Die KI-Forschung und -Entwicklung sollte sich darauf konzentrieren, die heutigen leistungsstarken, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, abgestimmter, vertrauenswürdiger und loyaler zu machen“, fordern die Aufruf-Autoren weiter. „Parallel dazu müssen die KI-Entwickler mit den politischen Entscheidungsträgern zusammenarbeiten, um die Entwicklung robuster KI-Governance-Systeme drastisch zu beschleunigen.“ Diese sollen ihrer Ansicht nach neue und kompetente Regulierungsbehörden umfassen, die sich speziell mit KI befassen, die Überwachung und Verfolgung hochleistungsfähiger KI-Systeme und ein robustes Prüfungs- und Zertifizierungssystem.

Liebe Leserin, lieber Leser,

danke, dass Sie sich an dieser Diskussion konstruktiv, sachlich und kritisch beteiligen wollen. Diesen Bereich haben wir vor Kurzem überarbeitet (mehr dazu). Die Richtlinien für Lesermeinungen finden Sie hier. Fragen, Anmerkungen und Kritik senden Sie uns bitte an leserdialog@faz.de! Wir freuen uns auf Ihren Beitrag!

filter_list

- 73

Michael Beck

vor 4 Stunden

Ich glaube ernsthaft, dass die Entwicklung einer allgemeinen KI, die dem Menschen in ihrer Intelligenz um ein Vielfaches überlegen ist die größte Gefahr für die Menschheit darstellt. Sollte wir tatsächlich solch ein System schaffen, so wäre es nicht mehr kontrollierbar. Niemand weiß was dann passiert.

8

22

4

link

flag

JoSmith

vor 3 Stunden

Doch natürlich, erst kommt Terminator 1.0.

Dann geht es weiter mit Matrix, und ganz zum Schluss kreieren wir unsere eigene völlig sinnlose Zukunft, wie bei Rick&Morty.

5

8

1

link

flag

Matthias Greiers

vor 3 Stunden

Wir sind Jahrzehnte von einer allgemeinen künstlichen Intelligenz entfernt

link

flag

Dr Wolfgang Klein

vor 2 Stunden

Ja JoSmith, manchen tiefgründigen Kommentaren kann man nur mit fortgeschrittener Ironie beikommen.

2

1

link

flag

UserPL_1669290065892

vor 1 Stunde

Man kann sich dann verhalten wie der einsame Astronaut in 2001 - Odysee im Weltall. Versuchen, dem Ding den Saft abzudrehen. Je nach Konstruktion wird das mehr oder weniger schwierig.

Auf jeden Fall kann man erstmal Johann oder Richard Strauss dazu spielen.

1

link

flag

Dr Wolfgang Klein

vor 10 Minuten

@UserPL_#5892 - Aber er hat's dennoch geschafft, der Bowman, HAL den Saft abzudrehen. Ich sehe schon, wie meine Küchengeräte versuchen, mich umzubringen.

1

1

link

flag

Risto Dette

vor 4 Stunden

Dass es thematisiert wird, ist schon positiv.

2

18

2

link

flag

Ulrich Prigge

vor 4 Stunden

So sehr die Inhalte und Ziele des Aufrufs zu begrüßen sind, so unwahrscheinlich ist ihr Effekt. Schon allein, weil man sich vor derAnwendung durch totalitäre Systeme schützen will/muss, wird die Entwicklung immer weiter gehen. Zu selten wird an des Mögliche die Frage gestellt, ob man wirklich tun sollte, was man tun kann.

17

3

link

flag

kaum zu glauben und doch

vor 4 Stunden

Lesermeinungen wie diese: stammen sie von einem Menschen, oder einer KI?

Wenn jetzt jemand verunsichert ist, dann ist es schon zu spät.

1

14

2

link

flag

Dr Wolfgang Klein

vor 3 Stunden

Tja, wie soll man allein anhand der Behauptung "Ich bin keine KI" feststellen, ob es sich um eine KI handelt, so ganz ohne Inquisitionsverfahren und so ...

1

1

1

link

flag

JoSmith

vor 4 Stunden

Lasst die KI doch einfach bei ihren Antworten Genderspeak verwenden. Dann ist klar, dass es kein Mensch sein kann.

11

13

3

link

flag

Matthias Greiers

vor 3 Stunden

Ihr Kommentar ist so dämlich, Sie sind eine KI!

2

3

2

link

flag

Klaus Dechet

vor 3 Stunden

Diese Gefahr ist aus meiner Sicht viel größer als die aktuellen "Aufreger" in der deutschen Gesellschaft. Das Thema ist hier noch nicht richtig angekommen. Wird noch kommen...

2

12

4

link

flag

A Tamatave

vor 3 Stunden

Musk hat zu viele Hollywoodfilme geguckt. Was technisch machbar ist wird auch gemacht.

5

10

1

link

flag

Christian Wespe

vor 4 Stunden

Kann die Menschheit sich entscheiden etwas nicht zu erforschen? Von meinem grundgefühl her bin ich skeptisch. Man muss aber auch anerkennen, dass es bei Eingriffen in die menschliche keimbahn bisher gut funktioniert hat.

1

10

2

link

flag

Rolf Jonasson

vor 1 Stunde

Schon der grosse Stephen Hawking warnte: "Wenn wir zulassen, dass diese Systeme ein eigenes Bewusstsein entwickeln, werden sie schnell darauf kommen, dass der Mensch im Weg ist". Und dann werden sie uns schneller abschaffen als wir bis drei zählen können... Genauso sehe ich das auch und ich freue mich, dass es scheinbar auch ein paar IT-Unternehmer gibt, die das Problem erkennen. Vermutlich kommt die Warnbung aber zu spät, denn es wird bereits zuviel Geld damit verdient und die herrliche Totalüberwachung der Bürger möchte die chinesische KP sicher auch nicht mehr missen.

1

9

link

flag

Dr Wolfgang Klein

vor 47 Minuten

Ja, und Stephen Hawking wollte auch nicht, dass wir Nachrichten an Außerirdische senden. Und er hat für seine äußerst wichtigen und schwierigen Arbeiten weder einen Nobelpreis noch eine Fields-Medaille erhalten.

5

1

link

flag

Kurt Janecek

vor 1 Stunde

Ähnlich der Gen-Forschung, was gemacht werden kann wird auch gemacht und wenn es sein muss dann eben im geheimen staatlich oder auch privat.

Wer glaubt die "Büchse der Pandora" wieder schließen zu können sollte aus der Geschichte lernen.

Es wird notwendig werden sich über Gegenmaßnahmen verstärkt Gedanken zu machen bevor die "Maschinen bzw. KI" übernimmt.

1

9

3

link

flag

Dr Wolfgang Klein

vor 46 Minuten

In Deutschland wird, wesentlich restriktiver als in anderen demokratischen Ländern, lange nicht gemacht, was in der Gen-Forschung möglich wäre. Stichwort: Embryonenschutzgesetz. Auch hier haben wir, wie so oft, die ethische Wahrheit gepachtet.

6

2

link

flag

Dr Wolfgang Klein

vor 2 Stunden

Wenn sich einer anlässlich der „Klimakrise“ gefragt hat, welche Sau wohl als nächstes durch bundesdeutsche Dörfer getrieben wird: wir wissen es jetzt.

15

9

6

link

flag

Bernhard Ennser

vor 2 Stunden

Beide Säue sind schon im Dorf. Die Klimakrise als Folge unseres Umgangs mit Natur und Umwelt ist bereits gut erlebbar - wenn man sie unvoreingenommen sehen will.

Und die KI begleitet uns ebenfalls auf Schritt und Tritt, nur halt fast unmerklich - oft technisch nützlich, in vielen Dingen bereits jetzt schon sehr bedenklich z.B. selektive Steuerung von Informationsverteilung - je nach SocMedia Profil, politische Kommunikation, perfide Manipulation im Allgemeinen: Es wird permanent an unserem individuellen Bild von der Welt um uns manipuliert. Das ist an sich nichts Neues, die KI macht aber das hier auf individueller Ebene möglich. Plötzlich existieren viele - oft unvereinbare Realitäten nebeneinander.

3

4

2

link

flag

Stephan Perthes

vor 1 Stunde

Was wäre das FAZ-Forum ohne Ihre ständigen (nervenden) zumeist sachfremden Kommentare. Wollten Sie nicht das Abo längst kündigen? Danke - wäre zu schön - dann hätten wir hier reichlich und endlich weniger sinnbefreite Kommentare.

3

3

1

link

flag

Dr Wolfgang Klein

vor 1 Stunde

Schalten Sie mich doch auf "Ignorieren", Herr Perthes. Dann müssen Sie meine Meinung nicht mehr lesen. Ich könnte das umgekehrt auch, aber es ist wohl nicht nötig, denn ich kann mich überhaupt nicht erinnern, von Ihnen mal irgendwas Relevantes gelesen zu haben.

1

2

2

link

flag

Stephan Perthes

vor 1 Stunde

Vielleicht sollten Sie einfach etwas mehr lesen, und weniger schreiben ;-) Das würde Ihrer Erinnerung eventuell auf die Sprünge helfen. Viel Erfolg!

2

3

link

flag

Felix Baumann

vor 3 Stunden

Musk hat in den letzen Jahren so viel Stuss von sich gegeben dass ich seinen Aussagen keine Bedeutung mehr beimesse. Für eine Hand voll Twitter-Likes macht er doch alles.

13

8

3

link

flag

Dr Wolfgang Klein

vor 3 Stunden

Ganz recht, Musk irrlichtert zunehmend in der Gegend rum, und Wozniak, der ist ja noch älter als ich. Apple hatte in Sachen KI noch nie viel auf dem Kasten.

8

4

1

link

flag

Thomas Kuelpmann

vor 2 Stunden

Mag alles sein... Doch konnte man Apple nie unterstellen, keine Visionen gehabt zu haben.

Irgendetwas hat der Laden wohl richtig gemacht. Ob die jetzt so irrelevant von ihrer Gewichtung her sind, wie Sie es annehmen, möchte ich dahingestellt sein lassen.

Ist vielleicht wie mit A-Bomben.

Besser wäre es gewesen, sie wären nie entwickelt worden (obwohl das vermutlich eine zwangsläufige Entwicklung war) aber jetzt müssen wir eben damit umgehen.

1

3

link

flag

Dr Wolfgang Klein

vor 2 Stunden

(Bearbeitet)

@Kuelpmann - Bis zu einem bestimmten Punkt hat jeder große Laden wohl was richtig gemacht. Irgendwann ist der Peak aber erreicht und es geht wieder abwärts.

Es gibt übrigens keine A-Bomben, höchstens N-Bomben. Und man kann sich auch nicht aussuchen, ob man sie entwickelt, außer man bleibt ewig auf einem bestimmten Level von Dummheit stehen. Schon E = m c^2 war der große Sündenfall. Manche meinen auch, man hätte die Bäume nie verlassen sollen.

2

4

1

link

flag

HEEG2AU

vor 2 Stunden

Tatsächlich ist der Titel ‚Gruppe um Elon Musk‘ leider abwertend, was die genannten Wissenschaftler angeht. Diese warnen ja schon länger vor der unkontrollierten Weiterentwicklung von KI. Musks Beteiligung dabei scheint mir eher wirtschaftlichen Interessen zu folgen als Ethischen.

Empfehlenswert aus meiner Sicht sind die populärwissenschaftlichen Bücher von Max Tegmark (Leben 3.0) oder Nick Bostrom (Superintelligence) - sozusagen als ‚Einstiegsdroge‘.

2

1

1

link

flag

Michael Looman

vor 1 Stunde

Ich halte von Musk nicht sehr viel aber in diesem Fall gebe ich ihm und den anderen der Gruppe absolut recht. Schon das regenreich anonyme Internet ist eine große Gefahr die kaum bewältigt wird. Dies in Kombination mit KI Anarchie wäre bald nicht mehr zu kontrollieren und könnte tatsächlich apokalyptische Auswirkungen haben.

2

6

link

flag

Andreas Schenzle

vor 1 Stunde

So wie es für mich rüber kommt, ist das noch dramatischer als die globale Erwärmung.

Ich mag diesen abgehobenen Selbstdarsteller und Wichtigtuer Musk eigentlich nicht. Andererseits hat er schon öfters bewiesen, dass er etwas auf den Kasten hat. Und ausser Musk gibt es da auch einige Experten, die sich in der Materie sehr gut auskennen müssen, und die diesen Aufruf auch unterstützen.

Diese Warnung sollten wir also sehr ernst nehmen. Ich befürchte nur, dass die Menschheit nicht dazu in der Lage ist, um erstens, rechtzeitig, zweitens, konsequent, und drittens, mit den richtigen Massnahmen zu reagieren.

1

6

link

flag

Sebastian Starkloff

vor 4 Stunden

die Zauberlehrlinge...

2

6

link

flag

Jürgen Nowicki

vor 1 Stunde

Sehr bedenklich, dass Experten vom Fach derart drastische Entwicklungen für möglich halten. Ein solcher Appell ist aber nicht mehr als frommer Wunsch. Der Geist ist aus der Flasche und niemand kriegt ihn wieder rein.

3

5

link

flag

Markus Michaelis

vor 1 Stunde

Das kann man wahrscheinlich vergessen. Dadurch, dass die KI-Systeme so relativ simpel sind und auch kleine Gruppen und Firmen das machen können, ist es kaum kontrollierbar. Zwischen konkurrierenden Staaten sowieso nicht. Vielleicht kann man da etwas 6 Monate verzögern, aber aufhalten wird man das nicht können.

1

5

2

link

flag

platon298

vor 54 Minuten

Es ist auch sehr gut, dass der Fortschritt nicht von einigen Wichtigtuern gestoppt werden kann.

4

2

1

link

flag

Dr Wolfgang Klein

vor 43 Minuten

(Bearbeitet)

Ich bin mir ziemlich sicher, dass unser Ethikrat, auf den die Bundesregierung hört, das in dem Moment stoppen lässt, wo sich einer "erdreistet" an künstlichem Bewusstsein zu arbeiten. Denn was ethisch verboten ist, das darf auch nicht stattfinden.

3

1

link

flag

Ralph Engels

vor 3 Stunden

Und was ist, wenn KI einfach der nächste evolutionäre Schritt ist? Hier auf der Erde bleiben bringt nichts. in 1.000 oder 100.000 Jahren gibt es wahrscheinlich keine Menschen mehr. Und selbst wenn, in ca. 4 Milliarden Jahren ist es so oder so vorbei. In den Weltraum können wir nicht ohne Science Fiction Antriebe. Weil wir einfach nicht alt genug werden. Denkende Maschinen können das aber schon. Ihnen ist Zeit im Zweifel egal. Selbst wenn es tatsächlich außer dem Menschen kein Leben im Universum gäbe. Die Maschinen könnten diese Lücke füllen. Wäre doch sonst Verschwendung?!

3

5

3

link

flag

UserPL_1669290065892

vor 1 Stunde

Und ? Was geht mich das an ? Denke ich wie der Demiurg, der das alles erschaffen hat ? Wäre ja noch schöner.

1

1

link

flag

Dr Wolfgang Klein

vor 14 Minuten

@UserPL_#5892 - "Der Demiurg". Da musste ich auch lachen, zumal die Mehrheit immer noch an einen lieben Gott und eine natürliche Ordnung (oder was sie darunter verstehen) glaubt. Alles wird gut! ;-)

1

1

link

flag

Dr Wolfgang Klein

vor 3 Stunden

Solange KI so magere Fähigkeiten hat wie derzeit, ist meine Sorge in dieser Hinsicht nicht allzu groß. Vielleicht haben die Autoren zu viel Asmimov (Caves of Steel) oder Herbert (Dune -> Mentats) gelesen, was ihre Vision von der KI-Zukunft angeht. Inzwischen scheinen die KI-Gläubigen in zwei Kategorien zu fallen:

diejenigen, welche KI mehr positive Fähigkeiten zutrauen als sie auf absehbare Zeit an Potential haben wird

und

diejenigen, welche bei KI mehr Risiken sehen als sie auf absehbare Zeit an Potential haben wird

I now declare this bazar open.

Jetzt können alle mitentscheiden, die rein gar nichts wissen aber schon immer eine dedizierte Meinung hatten.

16

5

1

link

flag

Dr Wolfgang Klein

vor 2 Stunden

Ich hätte wohl eher schreiben sollen: Der Kral ist eröffnet.

2

1

link

flag

Nicolodi

vor 4 Stunden

... da will wieder jemand hinter einem anfahrenden Zug hinterherlaufen - womöglich einsteigen - und muss erst auf dem Abfahrtsplanaushang nachsehen auf welchem Gleis der Zug abfährt...

8

5

1

link

flag

hkele

vor 3 Stunden

Das stimmt leider nicht was Sie sagen. Man kann über Musk denken, was man will, auch hat er in den letzten Jahren mehrfach keine glückliche Figur gemacht, ein super schlauer Mensch ist er weiterhin. Darüber hinaus ist auch Steve Wozniak dabei, das ist ein absolut sachlich orientierter Mensch, dem es nicht ums Geld oder irgendwelche neben Interessen geht. Schauen Sie sich mal seine Lebensgeschichte an. Wenn es jemand beurteilen kann, wohin die Reise hingeht, dann sind es die Initiatoren. Und denen sollte man erst mal glauben.

2

10

2

link

flag

Dr Wolfgang Klein

vor 2 Stunden

@hkele - Wissen über die Zukunft durch Lebensleistung. Da fallen mir spontan ein:

- Alexander von Humboldt

- Isambard Kingdom Brunel

- Howard Hughes

- Thomas Alva Edison

- Henry Ford

U.v.a. mehr, wenn ich noch ein wenig recherchiere. Vielleicht Anfrage an ChatGPT: „Suche mir hundert Industrielle und Wissenschaftler, die was zuwege gebracht haben und dann in späteren Jahren doch irgendwie gescheitert sind.“

2

1

link

flag

Nicolodi

vor 25 Minuten

Wie weil ein Elon Musk und wer auch sonst immer noch KI aufhalten?

Will er China das verbieten?

Will er das Internet irgendwie KI-frei machen?

Wenn er es will, steht das in seiner Macht?

Nö!

link

flag

Carsten Sauerberg

vor 2 Stunden

Da diejenigen, die da den Stopp anmahnen, wissen wovon sie reden sollten wirves ernst nehmen. Es mag ja im Bereich des Möglichen kommen, das KI autonom wird und macht was sie will.

4

link

flag

Dr Wolfgang Klein

vor 2 Stunden

(Bearbeitet)

Ihre Logik lässt zu wünschen übrig, Herr Sauerberg. Es gibt auch welche, die wissen wovon sie reden und trotzdem keinen Stopp anmahnen. Die ahnungslose Öffentlichkeit und die Politik picken sich immer die raus, die ihnen am besten in ihr Weltbild zu passen scheinen. Im Übrigen wird uns wenig nutzen, uns selbst zu beschränken, währen in Ländern wie China derweil die Post abgeht.

2

6

2

link

flag

Kurt Janecek

vor 1 Stunde

Werter Herr Klein, ohne versteckte Beleidigung lassen sich leichter Probleme aufklären.

Es sind doch nicht alle vom Fach und würden gern dazu lernen.

Es nervt einfach nur stets diese oberschlauen, 9 mal klugen Beiträge wahrnehmen zu müssen.

2

6

1

link

flag

Dr Wolfgang Klein

vor 1 Stunde

Wo sehen Sie eine versteckte Beleidigung, Herr Janecek?

1

3

1

link

flag

UserPL_1663789605420

vor 2 Stunden

Wenn Chat GPT einfach auf Aufforderung seine Quellen nennen könnte - und dazu sollte eine KI in der Lage sein - würde man die Informationen, die sie liefert, besser bewerten können.

Nichtsdestotrotz wird mir etwas bange, wenn selbst KI-Fachleute so eindringlich warnen. Aber wer weiß welche Interessen sie damit verfolgen...

4

link

flag

PL-98-BritundKraut

vor 1 Stunde

Kann es ja. Mann muss es nur Fragen wo hast du diese Informationen her? Letztens hat der mir bei einer Frage zu einem historischen Thema direkt vier Bücher genannt aus dem die Infos stammten.

2

1

link

flag

Roman Pirkl

vor 1 Stunde

Was heißt KI? Das Denken und evtl. die Handlungen werden Maschinen übernehmen.Abgesehen davon, dass hierdurch millionen Arbeitsplätze von der KI ersetzt werden, halte ich dieses Gott Spiel moralisch und ethisch für nicht vertretbar.Die Masse ist naiv genug, um sich hier führen zu lassen.Das sieht man am Handy Hype, ohne dies sich viele Menschen ein Leben nicht mehr vorstellen können.Wir werden dies nicht aufhalten können und ich denke, Musk hat die richtige Intuition.

3

3

link

flag

Dr Wolfgang Klein

vor 5 Minuten

(Bearbeitet)

Ich wünsche Ihnen zu Informationszwecken mal einen Langzeitaufenthalt als chinesischer Bürger in China. Da wird Ihnen wahrscheinlich beigebracht, was moralisch und ethisch vertretbar ist und wie Führung funktioniert. Es könnte natürlich sein, dass Xi Jinping ein von der chinesischen KI geführter Roboter ist, jedenfalls wenn man sich die Fernsehaufnahmen von ihm ansieht.

1

1

link

flag

UserPL_1669290065892

vor 1 Stunde

Jemandem, der sich mit Twitter derart verhoben hat und der auch die Firma Tesla nicht gegründet, sondern nur gekauft hat, würde ich nicht unbedingt eine realistische Einschätzung der Bedeutung oder der Gefahren von KI zutrauen.

11

3

2

link

flag

Dr Wolfgang Klein

vor 2 Stunden

(Bearbeitet)

Elon Musk erinnert mich zunehmend an Howard Hughes, den genialischen Visionär und Konstrukteur gewaltiger Holzflugzeuge … There‘s Howard Hughes in blue suede shoes, smiling at the majorette, smoking Winston cigarettes … bin gespannt, ob wer mal einen Song textet, in dem Elon Musk vorkommt. Vielleicht ChatGPT? „Schreibe einen Song im Stil von Genesis ‚Lamb Lies Down on Broadway‘ in dem Elon Musk statt Howard Hughes vorkommt.“. Nützlich, das … und gefährlich!

4

3

1

link

flag

Gerhard Lorscheid

vor 38 Minuten

Tut mir leid. Musk hat keine Ahnung wie KI funktioniert und bei den Mitunterzeichnern kann es nicht besser sein. Vielleicht will Musk auch nur einen 6 Monate Vorsprung...

In dieser Zeitung gibt es wesentlich bessere Artikel zu KI und ihre Grenzen wie das Interview von Professor Meinel.

2

1

link

flag

Michael Krämer_43148

vor 57 Minuten

Kennt jemand Colossus?

2

link

flag

Dr Wolfgang Klein

vor 51 Minuten

Klar! Fragt sich nur: Den britischen Röhrencomputer aus dem zweiten Weltkrieg oder den Roman (1966) von Dennis Feltham Jones (steht in meiner kleinen SF-Bibliothek).

3

1

link

flag

Michael Krämer_43148

vor 41 Minuten

Ich meinte den Film von 1970 nach dem Roman von Dennis Feltham Jones.

link

flag

Dr Wolfgang Klein

vor 18 Minuten

Na ja, was den Colossus in dem Film angeht: Deutschland hat keine eigene nukleare Verteidigung und demzufolge auch keinen eigenen Supercomputer, der ihre Kernwaffen steuert. Demzufolge besteht auch kein akuter Bedarf einer gesetzlichen Beschränkung dieses Themas. Ich würde mir eher mal Gedanken machen, welche Colossi bei den Supermächten inzwischen im Einsatz sind, und welche Hirne (natürlich oder künstlich) die Atomwaffenarsenale der Nuklearmächte steuern, allen voran Russland, Nordkorea und Iran. Die anderen finde ich nicht so kritisch, weil die weniger Anlass haben, Kernwaffen auf westliche Industrieländer abzuschießen.

Die KI-Aversion hat übrigens im Fall Deutschland zu einem massiven Rückstand der Bundeswehr in Sachen Drohnenbewaffnung geführt. Aber wir wissen ja: Wir dürfen uns insbesondere nicht nuklear verteidigen können, weil sonst alles noch schlimmer wird. Insbesondere könnte sich Putin provoziert fühlen.

1

1

link

flag

Michael Dietz

vor 2 Stunden

2.

Relevant als Problem vielleicht bei Hausaufgaben/Hausarbeiten/Dissertationen usw., denn GPT scheint ja immer neu zu formulieren, Plagiate würden so wohl schwerer nachweisbar.

Jetzt mein Problem:

Wofür braucht man eine KI überhaupt? Und inwiefern könnte durch den Einsatz einer KI eine gefährliche Situation entstehen?

Ließen wir GPT einen Artikel über den Klimawandel schreiben, schriebe sie ja auch nichts anderes als Herr Müller-Jung!

Die im Artikel genannten Bedenkenträger sind ja wirkliche Fachleute. Anders als ich.

Wo liegt die Gefahr konkret?

Mit der Bitte um Antwort.

4

2

link

flag

XaverF

vor 2 Stunden

Es geht darum, dass wir in der Endausbaustufe nicht alle vor dem Fernseher sitzen und alle Arbeit von KI gemacht wird. Das ist schlecht für die Gesundheit und persönliche Kontakte und wenn es nur der Arzt ist, sind für den Menschen wichtig.

2

link

flag

PL-98-BritundKraut

vor 1 Stunde

Bin sicherlich kein Experte aber im Artikel wird gewarnt dass Jobs durch KI ersetzt werden könnten. Ein einfaches Beispiel, Kundenservice Mitarbeiter werden aus meiner Sicht bald kaum benötigt werden. Ein Chat Roboter vielleicht längerfristig mit Realistische Stimme, kann sich am Telefon mit Ihnen unterhalten und zufriedenstellend eine Reklamation entgegen nehmen und eine Retoureschein per Email verschicken. Auch wenn es nur in 80% der Fälle klappt bevor ein Mensch eingreifen muss kann man 80% der Mitarbeiter kündigen. Ein paar IT Menschen reichen vollkommen aus das ganze am laufen zu halten. Was mit KI alles langfristig oder wie die Experten warnen kurzfristig möglich ist kann man sich kaum vorstellen. Bereits heute schreibe ich beruflich viele E-Mails nicht selber. Chat GPT schreibt mir die und ich passe die an. Das kostet mir weniger Zeit als die E-Mail selbst zu schreiben da mit der Eingabe von vier Stichpunkte und ein Befehl, in Sekunden ein Entwurf vorliegt.

link

flag

PL-98-BritundKraut

vor 1 Stunde

Ich vermute dass in Zukunft viele Angestellte nur noch ein Job haben werden wenn die wissen wie man KI bedient. Wird so ein Art Grundvorraussetzung. Bisschen wie damals wo PCs in die Büros kamen. Mittlerweile nutzt die jeder. Das hier ist der nächste Step. Ich rate jeden zumindest etwas mit zu experimentieren und nicht als nutzlos abzuschreiben. Ob man es will oder nicht wird es ein Einfluss auf unsere Leben haben in vielfältiger Weise.

1

link

flag

Michael Dietz

vor 1 Stunde

Danke, PL-98-BritundKraut, doch ganz erschließt sich mir die Sache immer noch nicht.

Bei den Kundendienstmitarbeitern, denken Sie an Mitarbeiter in Call Centern? Es kann sich ja nur um höchst einfache und anspruchslose Aufgaben handeln. Schon wenn unsere Heizung auf Störung steht, muß ja jemand vorbeikommen.

Sicher verändert sich die Arbeitswelt, aber die Gefahr der Weltherrschaft, die sehe ich nicht.

Obwohl...

Wenn wir natürlich davon ausgehen, daß alles, Wohnung, Fahrzeug, Arbeitsplatz, Krankenhaus..., daß wirklich alles vernetzt ist, und uns der Zugang gesperrt werden könnte..., die KI als ultimativer Hacker sozusagen, so könnte ich mir die Bedenken erklären. Bin aber überfordert, die Wahrscheinlkchkeit eines solchen Szenarios abzuschätzen.

OK, Sie sehen, ich komme der Sache näher;) Vielen Dank nochmals für Ihre Mühe!

link

flag

Michael Dietz

vor 2 Stunden

1.

Ich glaube, meine natürliche Intelligenz ist nicht hoch genug, zu verstehen, wo genau das Problem liegen soll. Ernst gemeint, nicht ironisch.

Darum bitte ich die lieben Mitforisten um Aufklärung.

Beispiel:

Wenn ich GPT eine Frage stelle, bspw. nach dem Zusammenhang zwischen Kurd Laßwitz Erzählung

"Die Universalbibliothek" und Borges´ "Bibliothek von Babel", bekomme ich eine, je nun, einigermaßen brauchbare "Analyse", die aber nichts anderes ist als eine Zusammenstellung bekannter Fakten. Eine Art kombinatorisches Wikipedia also.

2

link

flag

Dr Wolfgang Klein

vor 10 Minuten

Elon Musk hat es zumindest geschafft, die KI in den Tesla-Fahrzeugen aufzuhalten: Mercedes ist mit seinem autonomen Fahren inzwischen ein Level weiter als der Tesla Autopilot.

1

1

link

flag

Roman Pirkl

vor 2 Stunden

Der Mensch versucht sich mit der Schaffung der KI über das Universum und Gott zu stellen.Die Masse der Pyramide ist aber ebenso folgsam genug, dies alles akzeptieren zu wollen.Es gibt ethische und natürliche Grenzen und diese sind mit der KI überschritten.

1

1

link

flag

Dr Wolfgang Klein

vor 28 Sekunden

"Der Mensch versucht sich mit der Schaffung der KI über das Universum und Gott zu stellen."

Da fehlen mir echt die Worte ...

link

flag

Hans Wurst

vor 4 Stunden

Hahaha

7

link

flag

Roman Pirkl

vor 1 Stunde

KI=betreutes Denken und hochgefährlich.Für die Machtelite allerdings interessant.KI in Verbindung mit der Einführung der digitalen Währung und social Scoring als Überwachungsszenario.George Orwell ist nichts mehr dagegen.Musk hat Recht mit seiner Warnung und Musk ist Visionär.

1

link

flag

Wolfgang B

vor 3 Stunden

Für die unkritischen KI-Fans empfehle ich die Lektüre von alten Perry Rhodan Geschichten…

link

flag

Dr Wolfgang Klein

vor 33 Minuten

Ich würde mal mit Vorbehalt Ihre Meinung zu unkritischen KI- (und Anti-KI-) Fans teilen, Herr B, aber was genau hat Perry Rhodan mit der Sachen zu tun? Da kommen zwar ein ganzer Zoo von Außerirdischen, großteils mit Psi-Begabung, sowie Kugelraumschiffe mit Ringwulst vor (eine geniale Erfindung übrigens, zu der es regelmäßig Risszeichnungen gab). Aber KIs? Ich glaube ich werde vergesslich oder ich habe die entsprechenden Hefte nicht gelesen (es gab gefühlt unendlich viele).

Zu KI würde ich übrigens eher Arthur C. Clarkes Rama-Tetralogie empfehlen, die eine ganz andere Sicht auf das Verhalten von KI und Menschen bietet als das ewige Einerlei von "Mensch gut - KI böse", das auch in diesem Forum fröhliche Urständ feiert.

1

1

link

flag

Hans Steendamm

vor 4 Stunden

Herumspinnen

ist normal und damit auch den Nachbildungen eigen

Wikipedia

Technisch sind Chatbots näher mit einer Volltextsuchmaschine verwandt als mit künstlicher oder gar natürlicher Intelligenz.

(Was bei Wikipedia falsch ist, wird als richtiges Ergebnis gezeigt)

Bei einem autonom fahrenden Auto ist die Entscheidung es bei Algorithmen zu belassen

(jedes bestimmten Regeln unterworfene Rechnungsverfahren Meyer 6 Augl 1905

heute etwas modernen mit zwei oder drei einschränkungen)

es sei denn

man wolle die bedingte Anweisung

wenn Y größer als 9 abbiegen

als KI bezeichnen

oder

KI

wie bei einem Menschen eigene unvorhersehbare Entscheidungen treffen zu lassen

Der Mensch ist nicht im Besitz der absoluten Wahrheit und damit auch nicht KI, das genau so Fehler macht und damit lediglich eine von vielen Meinungen sein kann,

Im Unterschied zu Algorithmen, die relativ fehlerfrei abgearbeitet werden

10

link

flag

Matthias Greiers

vor 3 Stunden

ChatGPT ist kein Chatbot im eigentlichen Sinne, sondern ein LLM und greift auf Methoden aus dem Teilbereich der künstlichen Intelligenz zurück. Ihr Kommentar stimmt nicht.

3