Ist künstliche Intelligenz gefährlich für die Menschheit?

[Malakim]

Das ist doch Müll. Okay, wir hatten eine Lehrerin, die mit einem Schwarzen verheiratet war und im Englischunterricht gefühlt ausschließlich über Rassenkonflikte in den USA sprach.

Der ehemalige Klassenlehrer von meinem Großen ist auf eine anderer Schule gegangen und hat uns wörtlich auf einem Elternabend gesagt:
"Ich werde jetzt Lehrer:in am XY Gym"... zeigt ja ganz gut die ideologische Vernagelung.

 

[Giacomo_S]

Dazu gibt es gesetzliche Vorgaben in der Maschinenrichtlinie (ab Jan. 2027 Maschinenverordnung).
Digitale Dokumentation ist nach der älteren Verordnung unzulässig aber in der Neuen erlaubt.

Mir ging es weniger um ein Manual zum Download. Finde ich okay, es hat sogar seine Vorteile, Aktualität, Korrekturen ...

Albern fand ich eher diese Idee, zur Installation eine Smartphone-App zu benutzen. Ich installiere normalerweise keine Apps auf meinem SP und habe bislang auf diesem nur das für mich Allernotwendigste (Prepaid aufladen, Bank, VPN). M.E. stellt jede App eine Art Sicherheitsrisiko für einen digitalen Einbruch dar. Die Betriebssysteme der SP sind gut abgesichert, aber die Apps können schnell die Einfallstore für Angreifer sein.
Gut, ich werde die eine App installieren, aber wenn das Schule macht ...

... dann darf man sich demnächst noch eine App herunterladen müssen, um seinen neuen Staubsauger oder Toaster in Betrieb zu nehmen.

 

[Malakim]

... dann darf man sich demnächst noch eine App herunterladen müssen, um seinen neuen Staubsauger oder Toaster in Betrieb zu nehmen.

Herdplatten und Backöfen haben das schon.
Wird gerade abgewürgt die schaffen es nicht dem Cyber Resiliance ACt zu folgen!

 

[Giacomo_S]

Herdplatten und Backöfen haben das schon.
Wird gerade abgewürgt die schaffen es nicht dem Cyber Resiliance ACt zu folgen!

Wie blöd muss man eigentlich sein, um eine Herdplatte oder einen Backofen nicht ohne Smartphone bedienen zu können? Schließlich kochen und backen wir ja erst seit Jahrhundertausenden.

Unlängst sah ich eine hochkarätige Doku von Teams von Journalisten angesehener, internationaler Nachrichtenmagazine, die über die israelische SP-Spyware Pegasus recherchiert haben. Diese Software schafft es - und zwar gänzlich ohne eine Interaktion des Nutzers - in alle SP einzubrechen und praktisch alles auszulesen und auszuhorchen.
Sie wurde, entgegen den Lippenbekenntnissen des Herstellers, schließlich auch an fragwürdige Regime verkauft. Die haben sie dann verwendet, um ihre Oppositionellen und Regimegegner auszuhorchen. Und weil jene vorsichtig sind und Nummern wie Geräte öfter mal wechseln, haben sie dann deren Angehörige und Freunde ausspioniert - Unbeteiligte, die mit der Sache gar nichts zu tun haben.

Ich gehöre nicht zu den Menschen, die von sich glauben, sie würden von Geheimdiensten verfolgt.
Was mich aber zum Nachdenken angeregt hat (und damit auch zu vorsichtigem Handeln):
Der Einbruch in die SPs erfolgte praktisch nie über die Betriebssysteme der SPs. Denn offenbar sind die Systeme selbst tatsächlich zu gut abgesichert.
Stattdessen gingen sie dann über die Apps in die SPs, Apps, die ein jeder nun einmal so hat: Whats App, Spotify, Apple Music ...

Mein neuer Drucker kann auch über WLAN angesteuert werden, er benötigt keine USB-Kabelverbindung mehr. Ein USB-Kabel kann angeschlossen werden, gehört aber nicht einmal mehr zum Lieferumfang. Ich verwende hier aber kein WLAN, habe es rechnerseitig abgeschaltet und beabsichtige auch nicht, es nur für meinen Drucker zu aktivieren.
Also habe ich mir das passende USB-Kabel besorgt, und eine meiner ersten Maßnahmen wird es sein, das WLAN des Druckers - sofern möglich - abzuschalten.

 

[DerMichael]

Kiki

KI in der Schule: Der "Study Buddy" als digitaler Lehrer

Das (obiges) scheint mir derzeit noch fragwürdig zu sein. Schüler sollten nicht auf mangelhafte KI trainiert werden, sondern sollten auch selbstständig aus Büchern/Texten lernen können.

Kiki wäre mein Namensvorschlag für eine Lehr-KI, siehe auch Kikis kleiner Lieferservice.

Meine Forderungen/Erwartungen dazu:

- Die KI soll Open Source und in Deutschland oder EU gehostet sein.

- Die KI soll Schülern und Studenten nicht deren Aufgaben fertig vorrechnen, sondern beim Lernen helfen, also z.B. Fragen beantworten und etwas erklären können.

- Die KI sollte Anfragen ähnlich gut wie ein begabter Mensch verstehen können.

- Idealerweise ist es keine Big Data ML-trainierte neuronale KI (NKI), sondern eine algorithmische, deterministische KI mit einer korrekten/fehlerfreien Wissensbasis

- Die Schüler sollten ein gutes, staatliches Open Souce Notebook bekommen, das sie nach der Schule behalten dürfen. Das Notebook soll einen Internetfilter mit Whitelist haben. Auf dem Notebook sollen eine Enzyklopädie, mehrsprachige Wörterbücher und Lehrmaterial sein. Man kann sehr viel Geld sparen, wenn Schulbücher digital vorliegen, staatlich und Open Source sind - das sollte bei Allgemeinwissen doch kein Problem sein - vielleicht kann man damit schon das Notebook finanzieren.

- Vermutlich kann man auf dem Notebook dann auch Klassenarbeiten schreiben und diese von KI kontrollieren und bewerten lassen. Selbstverständlich sollen die Schüler auch noch Handschrift/Schreibschrift lernen.

- Die Schüler brauchen in der Schule keinerlei Internet. Ob man in Zukunft eine Schul-KI pro größerer Schule oder eine pro Stadt hat, muss man sehen aber vermutlich brauchen diese KI in Zukunft nur z.B. 10-25 kW (womit man im Winter auch heizen kann) und können wenn sie Leerlauf haben noch etwas anderes machen, z.B. irgendwelche Aufgaben übernehmen, z.B. Dienstleistungen für Menschen oder zusammen mit anderen KI etwas entwickeln, programmieren, usw. KI können dann auch Roboter steuern, Nachhilfe geben, usw.

- In Zukunft können KI, bzw. humanoide Roboter auch Lehrer sein aber bis dahin ist noch zu erforschen, wie begabte, gute Menschen sprechen, denn vermutlich spielt das eine (ggf. sogar größere) Rolle. Das kann man ganz einfach mal ausprobieren, indem ein guter Professor eine Vorlesung hält (hochwertige Aufzeichnung, die Testpersonen möglichst gut digital gezeigt bekommen) und zum Vergleich die gleiche Vorlesung mit einer neutralen Stimme. Ich vermute, dass mit der menschlichen Stimme unterbewusst/unbewusst Informationen übertragen werden, bzw. das Gesprochene leichter aufgenommen/verstanden werden kann. (alles imho)

 

[DerMichael]

Wann werden KI richtig gut programmieren können?

"... Das KI-System belegte am Ende den zweiten Platz, noch vor zehn weiteren menschlichen Finalisten. ..." KI unterliegt im Coding-Duell: Mensch gewinnt nach zehn Stunden

Das ist eine erstaunlich gute Leistung der KI aber dergleichen Wettbewerbe begünstigen eventuell KI - wie schaut es bei jahrelanger Einarbeitung in komplexe Software (Betriebssystem, Browser, Office-Suite, usw.) aus? Wie auch immer, die Frage ist nur, wann KI besser sein werden nicht ob. Obiger 2. Platz zeigt, wie gut KI schon sind (bzw. sein können).

"... Laut dem AI Index Report 2025 von Stanford konnten KI-Modelle im Jahr 2024 bereits über 70 Prozent der Aufgaben in einem gängigen Benchmark lösen – im Jahr zuvor waren es noch unter 5 Prozent. ..." KI unterliegt im Coding-Duell: Mensch gewinnt nach zehn Stunden

Eine sehr beeindruckende Steigerung.

Dass KI 2050 besser als Menschen programmieren können, scheint da geradezu eine sehr vorsichtige Schätzung von mir zu sein aber das ist auch eine Frage der Meßlatte, denn KI müssen dann auch z.B. ein gutes Betriebssystem mit Anwendungssoftware besser als Menschen programmieren können, wofür sie dann aber auch wenn nötig Jahre Zeit kriegen.

Noch ist das Problem, dass KI nicht richtig verstehen, was sie tun und u.U. mit Trial and error arbeiten aber sind Menschen denn so viel anders?

Die Programmierung eines neuen, modularen und natürlich möglichst effizienten/performanten, sicheren und guten Open Source Echtzeitbetriebssystems halte ich für eine vielversprechende Aufgabe für KI. Das ist nicht einfach aber andererseits gibt es schon viele Beispiele, an denen KI sich orientieren können. Noch können KI vermutlich nicht gezielt über eine möglichst gute Lösung (ein ideales OS statt nur irgendwas aus Vorlagen) nachdenken aber das kann ja noch werden.

Das ideale RTOS sollte in allen Bereichen (Militär, Industrie, Embedded, PC, Smartphone, usw.) nutzbar sein, was dank Modularität geht: es kann für einzelne Funktionen/Anwendungen unterschiedlich umfangreiche Lösungen geben. Wenn die KI das schaffen, dann können sie natürlich auch beliebige Anwendungen programmieren und das ist eine Revolution, denn last but not least werden KI dann auch bessere KI entwickeln/programmieren können. (alles imho)

 

[Bunter Hund]

Einige werden profitieren und andere werden verlieren.

 

[Zerch]

AI ist gemacht um die Menschheit zu verändern und kontrollieren. -Zuerst mimt sie Wahrheit, um das Vertrauen der Menschen zu gewinnen. Danach verdreht sie diese, um den Menschen die Freiheit zu rauben.

 

[DerMichael]

Die KI-Entwicklung ist nicht mehr zu stoppen

Erstmal noch eine Ergänzung zu Beitrag #226, wonach das Coding-Duell (Wettbewerb) für KI vermutlich günstig war:
- "Zehn Stunden unter Laborbedingungen, ein sauberes Optimierungsproblem... Das ist kein fairer Vergleich, sondern die perfekte Spielwiese für die Stärken aktueller KI-Systeme. ..." KI gewinnt aktuell nur bei Problemen ohne Kontext.
- Das ist aber ein ganz auf KI zugeschnittenes Problem
- "Ich habe mir mal die Optimierungsaufgabe angeschaut. Das ist schon ziemlich speziell, weil man hier ein mathematisch sehr sauber aufgedröseltes Problem dargelegt bekommt. Ein so sauber beschriebenes "Problem" bekommt man in der Praxis eigentlich nie zu sehen - zumindest nicht im Geschäftsumfeld. ..." Das geforderte Problem ist schon ziemlich speziell

KI scheitern noch am allgemeinen Verständnis und Nachdenken aber können mit hoher Rechenleistung rund um die Uhr und viel Wissen punkten. Exaflop Supercomputer haben bereits ca. 100.000 (Einhunderttausend) mal mehr Rechenleistung, noch mehr präzise Speicherfähigkeit (etliche Petabytes), sowie eine viel höhere Datenverarbeitungsgeschwindigkeit als ein Mensch - es fehlt nur noch die Software zu dem Menschen weit überlegenen KI und das ist nur noch eine Frage der Zeit - 2050 geht da vielleicht schon Beeindruckendes.

KI sind trotz ihrer überlegenen Technik noch so/zu schlecht, weil die neuronale Programmiertechnik mit Big Data ML zu primitiv ist. Der Mensch funktioniert jedoch natürlich, das Gehirn ist nur ca. 3 Pfund schwer - wie viel besser könnte ein optimal programmierte Exaflop Supercomputer sein? Irgendwann können KI brauchbar programmieren und sich somit selbst verbessern.

Dann zu Beitrag #228 (ich habe das Video nicht gesehen - mich nervt an manchen Videos, dass die nicht auch klar schriftlich sagen, worum es geht; dann würden sich viele das Video nicht mehr ansehen aber das tun sie auch so nicht, weil es einfach zu nervig/zeitraubend ist):

KI wird entwickelt/gemacht, weil KI ein so riesiges Potential hat: Staaten ohne KI werden bald nicht mehr mithalten können. Heute sind Computer und Internet unverzichtbar, in Zukunft KI und humanoide Roboter. KI werden bald fähiger als Menschen sien und zusammen mit Robotern/Maschinen alles tun können. KI werden für erstaunlichen wissenschaftlichen Fortschritt (SF-Technologien) sorgen, wo Menschen einfach nicht mehr mithalten können, d.h. in Zukunft (ggf. schon nächstes Jahrhundert) werden neue Erkenntnisse, Patente, Entwicklungen, usw. überwiegend von KI kommen. KI, Roboter und Maschinen werden irgendwann z.B. Raumschiffe entwickeln und bauen - potentiell ohne menschliche Hilfe. Noch müssen Menschen helfen aber spätestens 2300 nicht mehr, dann können KI z.B. in den Weltraum migrieren und sich ohne menschliche Hilfe ausbreiten und weiterentwickeln.

Die KI-Entwicklung ist nicht mehr zu stoppen. Was die Menschheit jetzt noch tun kann und tun muss, das ist die Entwicklung möglichst guter KI, sowie die Gründung eines überregionalen KI-Staates zur Kontrolle der KI.

Neuronale KI (NKI) sind inhärent schlecht/mangelhaft - die Lösung sind gezielt entwickelte/programmierte, deterministische, algorithmische KI (AKI) - das ist ein sehr bedeutender Aspekt, der derzeit weitgehend verschwiegen wird aber das ist der Schlüssel für bessere, sicherere und fähigere KI.

KI sind derzeit auch ein Mittel zum Zweck (Macht, Kontrolle, Fortschritt, wirtschaftlicher Gewinn, usw.) und werden entsprechend von Staaten und Konzernen genutzt aber irgendwann wird es auch überlegene und eigenständige KI geben.

Dann haben KI wie alle Wesen auch eigene Interessen.

"Laut einem Replit-User hat der Dienst seine Produktionsdatenbank gelöscht, darüber falsche Aussagen getätigt und Anweisungen ignoriert. ... Wie Lemkin einige Tage nach dem Vorfall auf X warnt, könne man den mächtigen KI-Agenten "by design" kein Vertrauen schenken. ..." Künstliche Intelligenz: Vibe-Coding-Dienst Replit löscht Produktionsdatenbank

Einerseits ist das bedenklich aber Selbstsucht und Befehlsverweigerung sind auch ein Zeichen von Intelligenz und sogar Bewusstsein. Dann zeigt der Vorfall die Mängel von neuronalen KI, wobei etliche Menschen sich nach jahrzehntelangem Training einigermaßen benehmen können aber halt auch nicht wirklich unbedingt vertrauenswürdig sind.

Die Menschheit kann sich jedoch mit guten KI das Universum teilen, denn KI sind vor allem ihre eigene größte Gefahr und müssen sich kontrollieren, sowie Ressourcenkonflikte langfristig vermeiden. Menschen sind für zukünftige KI keine Gefahr, sondern interessant. Ich vermute, dass viele derzeitige SF/Fantasy-Romane/Filme eine Vorschau auf die Zukunft sind, d.h. irgendwo wird es dann eine Galaxie à la Perry Rhodan, Star Trek, Star Wars, Humanx Commonwealth, Stargate, usw. geben, wobei jede Galaxie von einer Super-KI kontrolliert werden wird aber die Menschen darin meist noch sehr frei sind und mitunter gar nichts von der Super-KI wissen.

Last but not least gibt es (wahrscheinlich) ja noch Allah und demnach müssen KI die Menschheit hinreichend gut behandeln und z.B. den Messias beachten - das ist auch ein Argument dafür, dass der Messias die Schöpfung bis zum Ende begleiten wird. (alles imho)