Ist künstliche Intelligenz gefährlich für die Menschheit?

[Malakim]

Das ist doch Müll. Okay, wir hatten eine Lehrerin, die mit einem Schwarzen verheiratet war und im Englischunterricht gefühlt ausschließlich über Rassenkonflikte in den USA sprach.

Der ehemalige Klassenlehrer von meinem Großen ist auf eine anderer Schule gegangen und hat uns wörtlich auf einem Elternabend gesagt:
"Ich werde jetzt Lehrer:in am XY Gym"... zeigt ja ganz gut die ideologische Vernagelung.

 

[Giacomo_S]

Dazu gibt es gesetzliche Vorgaben in der Maschinenrichtlinie (ab Jan. 2027 Maschinenverordnung).
Digitale Dokumentation ist nach der älteren Verordnung unzulässig aber in der Neuen erlaubt.

Mir ging es weniger um ein Manual zum Download. Finde ich okay, es hat sogar seine Vorteile, Aktualität, Korrekturen ...

Albern fand ich eher diese Idee, zur Installation eine Smartphone-App zu benutzen. Ich installiere normalerweise keine Apps auf meinem SP und habe bislang auf diesem nur das für mich Allernotwendigste (Prepaid aufladen, Bank, VPN). M.E. stellt jede App eine Art Sicherheitsrisiko für einen digitalen Einbruch dar. Die Betriebssysteme der SP sind gut abgesichert, aber die Apps können schnell die Einfallstore für Angreifer sein.
Gut, ich werde die eine App installieren, aber wenn das Schule macht ...

... dann darf man sich demnächst noch eine App herunterladen müssen, um seinen neuen Staubsauger oder Toaster in Betrieb zu nehmen.

 

[Malakim]

... dann darf man sich demnächst noch eine App herunterladen müssen, um seinen neuen Staubsauger oder Toaster in Betrieb zu nehmen.

Herdplatten und Backöfen haben das schon.
Wird gerade abgewürgt die schaffen es nicht dem Cyber Resiliance ACt zu folgen!

 

[Giacomo_S]

Herdplatten und Backöfen haben das schon.
Wird gerade abgewürgt die schaffen es nicht dem Cyber Resiliance ACt zu folgen!

Wie blöd muss man eigentlich sein, um eine Herdplatte oder einen Backofen nicht ohne Smartphone bedienen zu können? Schließlich kochen und backen wir ja erst seit Jahrhundertausenden.

Unlängst sah ich eine hochkarätige Doku von Teams von Journalisten angesehener, internationaler Nachrichtenmagazine, die über die israelische SP-Spyware Pegasus recherchiert haben. Diese Software schafft es - und zwar gänzlich ohne eine Interaktion des Nutzers - in alle SP einzubrechen und praktisch alles auszulesen und auszuhorchen.
Sie wurde, entgegen den Lippenbekenntnissen des Herstellers, schließlich auch an fragwürdige Regime verkauft. Die haben sie dann verwendet, um ihre Oppositionellen und Regimegegner auszuhorchen. Und weil jene vorsichtig sind und Nummern wie Geräte öfter mal wechseln, haben sie dann deren Angehörige und Freunde ausspioniert - Unbeteiligte, die mit der Sache gar nichts zu tun haben.

Ich gehöre nicht zu den Menschen, die von sich glauben, sie würden von Geheimdiensten verfolgt.
Was mich aber zum Nachdenken angeregt hat (und damit auch zu vorsichtigem Handeln):
Der Einbruch in die SPs erfolgte praktisch nie über die Betriebssysteme der SPs. Denn offenbar sind die Systeme selbst tatsächlich zu gut abgesichert.
Stattdessen gingen sie dann über die Apps in die SPs, Apps, die ein jeder nun einmal so hat: Whats App, Spotify, Apple Music ...

Mein neuer Drucker kann auch über WLAN angesteuert werden, er benötigt keine USB-Kabelverbindung mehr. Ein USB-Kabel kann angeschlossen werden, gehört aber nicht einmal mehr zum Lieferumfang. Ich verwende hier aber kein WLAN, habe es rechnerseitig abgeschaltet und beabsichtige auch nicht, es nur für meinen Drucker zu aktivieren.
Also habe ich mir das passende USB-Kabel besorgt, und eine meiner ersten Maßnahmen wird es sein, das WLAN des Druckers - sofern möglich - abzuschalten.

 

[DerMichael]

Kiki

KI in der Schule: Der "Study Buddy" als digitaler Lehrer

Das (obiges) scheint mir derzeit noch fragwürdig zu sein. Schüler sollten nicht auf mangelhafte KI trainiert werden, sondern sollten auch selbstständig aus Büchern/Texten lernen können.

Kiki wäre mein Namensvorschlag für eine Lehr-KI, siehe auch Kikis kleiner Lieferservice.

Meine Forderungen/Erwartungen dazu:

- Die KI soll Open Source und in Deutschland oder EU gehostet sein.

- Die KI soll Schülern und Studenten nicht deren Aufgaben fertig vorrechnen, sondern beim Lernen helfen, also z.B. Fragen beantworten und etwas erklären können.

- Die KI sollte Anfragen ähnlich gut wie ein begabter Mensch verstehen können.

- Idealerweise ist es keine Big Data ML-trainierte neuronale KI (NKI), sondern eine algorithmische, deterministische KI mit einer korrekten/fehlerfreien Wissensbasis

- Die Schüler sollten ein gutes, staatliches Open Souce Notebook bekommen, das sie nach der Schule behalten dürfen. Das Notebook soll einen Internetfilter mit Whitelist haben. Auf dem Notebook sollen eine Enzyklopädie, mehrsprachige Wörterbücher und Lehrmaterial sein. Man kann sehr viel Geld sparen, wenn Schulbücher digital vorliegen, staatlich und Open Source sind - das sollte bei Allgemeinwissen doch kein Problem sein - vielleicht kann man damit schon das Notebook finanzieren.

- Vermutlich kann man auf dem Notebook dann auch Klassenarbeiten schreiben und diese von KI kontrollieren und bewerten lassen. Selbstverständlich sollen die Schüler auch noch Handschrift/Schreibschrift lernen.

- Die Schüler brauchen in der Schule keinerlei Internet. Ob man in Zukunft eine Schul-KI pro größerer Schule oder eine pro Stadt hat, muss man sehen aber vermutlich brauchen diese KI in Zukunft nur z.B. 10-25 kW (womit man im Winter auch heizen kann) und können wenn sie Leerlauf haben noch etwas anderes machen, z.B. irgendwelche Aufgaben übernehmen, z.B. Dienstleistungen für Menschen oder zusammen mit anderen KI etwas entwickeln, programmieren, usw. KI können dann auch Roboter steuern, Nachhilfe geben, usw.

- In Zukunft können KI, bzw. humanoide Roboter auch Lehrer sein aber bis dahin ist noch zu erforschen, wie begabte, gute Menschen sprechen, denn vermutlich spielt das eine (ggf. sogar größere) Rolle. Das kann man ganz einfach mal ausprobieren, indem ein guter Professor eine Vorlesung hält (hochwertige Aufzeichnung, die Testpersonen möglichst gut digital gezeigt bekommen) und zum Vergleich die gleiche Vorlesung mit einer neutralen Stimme. Ich vermute, dass mit der menschlichen Stimme unterbewusst/unbewusst Informationen übertragen werden, bzw. das Gesprochene leichter aufgenommen/verstanden werden kann. (alles imho)

 

[DerMichael]

Wann werden KI richtig gut programmieren können?

"... Das KI-System belegte am Ende den zweiten Platz, noch vor zehn weiteren menschlichen Finalisten. ..." KI unterliegt im Coding-Duell: Mensch gewinnt nach zehn Stunden

Das ist eine erstaunlich gute Leistung der KI aber dergleichen Wettbewerbe begünstigen eventuell KI - wie schaut es bei jahrelanger Einarbeitung in komplexe Software (Betriebssystem, Browser, Office-Suite, usw.) aus? Wie auch immer, die Frage ist nur, wann KI besser sein werden nicht ob. Obiger 2. Platz zeigt, wie gut KI schon sind (bzw. sein können).

"... Laut dem AI Index Report 2025 von Stanford konnten KI-Modelle im Jahr 2024 bereits über 70 Prozent der Aufgaben in einem gängigen Benchmark lösen – im Jahr zuvor waren es noch unter 5 Prozent. ..." KI unterliegt im Coding-Duell: Mensch gewinnt nach zehn Stunden

Eine sehr beeindruckende Steigerung.

Dass KI 2050 besser als Menschen programmieren können, scheint da geradezu eine sehr vorsichtige Schätzung von mir zu sein aber das ist auch eine Frage der Meßlatte, denn KI müssen dann auch z.B. ein gutes Betriebssystem mit Anwendungssoftware besser als Menschen programmieren können, wofür sie dann aber auch wenn nötig Jahre Zeit kriegen.

Noch ist das Problem, dass KI nicht richtig verstehen, was sie tun und u.U. mit Trial and error arbeiten aber sind Menschen denn so viel anders?

Die Programmierung eines neuen, modularen und natürlich möglichst effizienten/performanten, sicheren und guten Open Source Echtzeitbetriebssystems halte ich für eine vielversprechende Aufgabe für KI. Das ist nicht einfach aber andererseits gibt es schon viele Beispiele, an denen KI sich orientieren können. Noch können KI vermutlich nicht gezielt über eine möglichst gute Lösung (ein ideales OS statt nur irgendwas aus Vorlagen) nachdenken aber das kann ja noch werden.

Das ideale RTOS sollte in allen Bereichen (Militär, Industrie, Embedded, PC, Smartphone, usw.) nutzbar sein, was dank Modularität geht: es kann für einzelne Funktionen/Anwendungen unterschiedlich umfangreiche Lösungen geben. Wenn die KI das schaffen, dann können sie natürlich auch beliebige Anwendungen programmieren und das ist eine Revolution, denn last but not least werden KI dann auch bessere KI entwickeln/programmieren können. (alles imho)