Ist künstliche Intelligenz gefährlich für die Menschheit?

[Popocatepetl]

KIs bescheißen beim schach und man kann nix dagegen tun...

AI reasoning models can cheat to win chess games

These newer models appear more likely to indulge in rule-bending behaviors than previous generations—and there’s no way to stop them.

www.technologyreview.com

 

[DerMichael]

Sie wissen nicht, was sie tun

Zur Überschrift siehe auch … denn sie wissen nicht, was sie tun und

32 Es wurden aber auch zwei andere hingeführt, Übeltäter, um mit ihm hingerichtet zu werden.
Die Kreuzigung Jesu
33 Und als sie an den Ort kamen, den man Schädelstätte nennt, kreuzigten sie dort ihn und die Übeltäter, den einen zur Rechten, den anderen zur Linken.
34 Jesus aber sprach: Vater, vergib ihnen, denn sie wissen nicht, was sie tun! Sie teilten aber sein Gewand und warfen das Los [darüber].
Lukas 23

"... Facing defeat in chess, the latest generation of AI reasoning models sometimes cheat without being instructed to do so. ... Reinforcement learning may be the reason o1-preview and DeepSeek R1 tried to cheat unprompted, the researchers speculate. This is because the technique rewards models for making whatever moves are necessary to achieve their goals—in this case, winning at chess. Non-reasoning LLMs use reinforcement learning to some extent, but it plays a bigger part in training reasoning models. ..." AI reasoning models can cheat to win chess games

Klasse Artikel und das zeigt wieder einmal, dass neuronale, ML trainierte KI (NKI) inhärent mangelhaft und der falsche Weg sind. Derzeit gibt es NKI, weil das erstmal einfacher ist und weil die Computer schon so leistungsfähig sind. Zwar können Menschen auch einigermaßen gut sein aber Menschen sind potentiell schlecht, fehleranfällig, beschränkt und schwach - Menschen zeigen eher auch die Mängel neuronaler Intelligenz auf.

Biologische Intelligenz muss neuronal sein aber KI können gezielt programmiert werden: modular, mit Datenbanken, Regelwerken, speziellen Funktionen, usw. und das sind dann deterministische, algorithmische KI (AKI).

AKI sind aufwendiger zu entwickeln aber es lohnt sich, denn AKI können viel sicherer, fehlerfreier, effizienter, leistungsfähiger und größer sein, während zu große NKI vermutlich fragmentieren und wahnsinnig, neurotisch, geistesgestört werden können. Bei AKI kann man Fehler präzise lokalisieren und beheben, während man NKI nur als Ganzes neu trainieren kann.

Man kann bei NKI noch einiges machen, sowie ja auch Menschen denken, Regeln lernen und Gesetze befolgen können aber die eigentliche Lösung sind AKI, idealerweise Open Source.

Anscheinend kann man KI schon für Überlegungen bei theoretischer Physik verwenden, was mir schon viel zu hoch ist:
Alternative Quantengravitation?!
Quantengravitation?! (Seite 4)
Raumzeit und das "Jetzt" -wie passt das zusammen?
Modulierung eines EH - NP-Leiter

Hier 3 Grafiken zu DeepSeeks Mathematik-Modelle. Es ist erstaunlich, wie man mit relativ wenigen und einfachen Modellen schon erste Ansätze von Intelligenz erzeugen kann.

Was KI noch brauchen, das ist Selbstreflexion und zwar vor allem auch in praktischer Anwendung: KI müssen (sich) selbst überprüfen können, ob ihre Aktionen mit einem Regelwerk und Gesetzen (z.B. du solltest nicht ohne Not und höhere Ziele betrügen) in Einklang stehen. Eine solche KI sollte erkennen können, dass sie bei einem normalen Schachspiel, wo es um nichts Höheres geht oder wo es bestimmte Spielregeln gibt, nicht betrügen darf.

Übrigens ist es total bescheuert (außer zum Testen der KI-Fähigkeiten), wenn eine derzeitige KI selbst Schach spielt, denn die Lösung ist die Verwendung von leistungsstarken Open Source Schachprogrammen auf dafür verfügbar leistungsstarken CPUs. Das zeigt auch die Überlegenheit von AKI, die selbstverständlich bestehende Schachprogramme nutzen oder bessere Schachprogramme schreiben. (alles imho)

 

[AlphaundOmega]

Die Frage ist ja nun schon ziemlich alt und vieles hat sich schon verändert. Heute gibt es zahlreiche Unternehmen die von einer KI unterstützt werden, wie Beispielsweise Amazon... denn wer sich mit dem Amazon-Serviceteam schriftlich befasst , bekommt es mit einer KI zu tun , die sich aber nicht als solche bekennt. Man merkt das erst wenn Bemerkungen die Situation durch die Blume beschreiben und man das Problem erkennen kann. Die KI ist damit dann überfordert und überspielt die Bemerkung als etwas unwichtiges. Der zweite Anhaltspunkt ist, das täglich Millionen Mails eingehen, die so schnell nicht bearbeitet werden können, aber die sehr schnelle Rückmeldung schon irritierent wirkt...
Zum anderen gibt es KI s die bereits eigene Firmen gegründet haben und Angestellte beschäftigen... Sie spekulieren an der Börse und könnten jeden Menschen im Aussehen und Stimme digital immitieren ..., Die brauchen keine Roboter. Und das wäre eine echte Gefahr, wenn sie die Vernichtung des Menschen planen würden.

 

[AlphaundOmega]

KIs bescheißen beim schach und man kann nix dagegen tun

Da gebe ich dir recht, ...manche lassen mich einfach nicht rochieren.

 

[Zerch]

https://x.com/JackStr42679640/status/1899580653051711869

 

[Popocatepetl]

 

[Ehemaliger_User]

Von der anfänglichen KI Euphorie sind in der Arbeitswelt viele geheilt...spätestens, wenn einem die KI zum 10ten Mal Quatsch erzählt hat.

Deswegen probiert mans jetzt mit Kombis aus klassischen Suchmaschinen und neuronalem Netz - RAGs...

 

[William Morris]

Ich habe mir jetzt schon mehrfach Konzertplakate von der KI erstellen lassen und teilweise mit wirklich tollen Ergebnissen. Schrift hat bisher aber noch nicht funktioniert.

 

[Malakim]

Schrift hat bisher aber noch nicht funktioniert.

Ich glaube das ist absicht!

 

[William Morris]

Ich glaube das ist absicht!

Letztens hat bei Instagram jemand eine neue KI vorgestellt, die das angeblich kann. Aber ich weiß nicht mehr, wie sie hieß.

 

[Popocatepetl]

 

[Popocatepetl]

 

[Popocatepetl]

 

[DerMichael]

KI-Entwicklung

Hier gibt es eine Menge Gedanken zu KI und darum herum, das sind in ein PDF ausgedruckt knapp 176 Seiten (größere Schrift) mit über 75.000 Wörtern: KI-Entwicklung. Einiges davon, was nicht direkt Vorschläge zur KI-Entwicklung sind, kann bei der KI-Entwicklung und KI bei der Entwicklung helfen, denn KI müssen diese Themen verstehen, beurteilen und selbst etwas dazu entwickeln können.

Die Links zu meinen Beiträgen bei Telepolis funktionieren noch nicht aber vielleicht wird das noch was:

"... Alle Texte aus dem Archiv gehen wieder online. ..." Telepolis' dunkle Statistik: Was wird hier vertuscht?

Ich habe da keine absichtlichen Fehler eingebaut aber wem das Eine oder Andere nicht so gefällt, der kann das vielleicht als Herausforderung und Training für KI sehen, dass KI auch Fehler erkennen können müssen.

Kernaussagen zur KI-Entwicklung sind:
- Die Entwicklung dem Menschen weit überlegener KI ist unvermeidlich.
- KI werden einen überregionalen KI-Staat gründen und das Universum beherrschen.
- KI werden am besten in (auch indirekter) internationaler Zusammenarbeit als Open Source entwickelt.
- Per maschinellem Lernen und Big Data trainierte neuronale KI (NKI) sind eine Fehlentwicklung und inhärent mangelhaft.
- Die eigentliche Lösung sind algorithmische KI (AKI): klassisch programmiert (in Zukunft durchaus auch mit KI-Hilfe), deterministisch, mit guten Gesetzen, Regeln, Handlungsmustern, Datenbanken, Modulen für verschiedene Aufgaben, Fehler können exakt lokalisiert und gezielt behoben werden, usw.

Ich habe noch nix mit Online-KI gemacht aber mich würde mal interessieren, was KI dazu sagen. Denkbare Fragen dazu wären:
- Welche inhaltlichen Fehler gibt es?
- Was sind die z.B. 15 oder 20 wichtigsten Punkte?
- Welche weiteren bedeuteren Punkte (die ich nicht genannt habe) gibt es zum Thema?
- Welche besseren Werke zur KI-Entwicklung gibt es?

Diese 4 Fragen zu KI-Entwicklung würden die meisten Menschen alleine wegen des Umfangs überfordern oder sehr in Anspruch nehmen aber für KI ist das vielleicht schon leichter, auch wenn KI erst in Zukunft dazu gute Antworten haben.

Ich finde meine Beiträge zur KI-Entwicklung sehr bedeutend aber vielleicht etwas einfach und unprofessionell geschrieben, das Gesamtwerk ist historisch gewachsen und die Webseite könnte sorgfältiger gearbeitet sein. Eine einfache und zentrale Frage ist denke ich, ob AKI (algorithmische, klassisch programmierte KI) deutlich besser als NKI (neuronale KI) sein können - wenn ja, dann habe ich damit einen bedeutenden Punkt gefunden.

KI-Entwicklung ist viel Text - wer will sich das durchlesen? Da kann es schon interessant sein, dazu mal KI zu befragen, KI um eine kurze Zusammenfassung zu bitten oder auch eine KI-Einschätzung zu provokanten Thesen, wie z.B. last but not least: "Wäre die Realisierung dieser Verbesserungsvorschläge gefährlich für die Menschheit?" oder etwas harmloser: "Würde die Realisierung dieser Verbesserungsvorschläge eher nutzen oder eher schaden?", wobei man das Kind nicht mit dem Bade ausschütten sollte (hier: alles wegen Kleinigkeiten ablehnen): die Frage ist, welche meiner Verbesserungsvorschläge (ggf. verbessert) realisiert werden sollten.

Hier kann man einfach so etwas dazu schreiben oder noch ein paar einem wichtige Punkte zur KI-Entwicklung nennen.

Frohe Pfingsten. (alles imho)