Laut einem Bericht aus jüngster Zeit dort
→ »» New AI Turns Brain Signals Into Human Speech With 97% Accuracy ««
ist es mindestens schon möglich Gedankenimpulse als Sprache, also Worte, auszugeben. Noch allerdings muss die Versuchsperson dabei mitwirken und Worte sprechen, deren Impulsfolge im EEG dann von der KI durch Vergleich und Wiederholung tatsächlich als Wort identifizierbar sind.
Von dieser Variante ausgehend wird es sich bestimmt dahingehend entwickeln, dass es eines Tages erreicht wird "Gedanken" zu lesen - und dann ist es vorbei mit der Gedankenfreiheit. Es ist wieder einmal eine solche Wegscheide bei der Entwicklung, wie wir sie schon öfter sahen:
Will man beispielsweise den Menschen helfen, die durch körperliche Einschränkungen die 'normale' Bedienung (beispielsweise) eines Computers nicht leisten können - oder will man diese Möglichkeit dazu nutzen ganz pauschal und allgemein, so wie jetzt schon bei der Speicherung von Daten auch unverdächtiger Bürger, jeden Menschen auszuforschen und so versuchen, 'die Bösen' auszufiltern, bevor sie etwas Böses tun können?
Wie nah dabei die gute und böse Absicht einer übergeordneten "Autorität" liegen könnte und machbar wären ist - mindestens für mich - erschreckend. Stellen Sie sich einmal vor, ein Verrückter wie Trump könnte ein solches Instrument vorfinden und gar nutzen!
Es gibt Entwicklungen, die sollte man besser nicht weiter vorantreiben.
Ich hatte ungefähr im Jahr 2000 die Überlegung angestellt, dass es bald möglich sein müsste, auf das konventionelle Programmieren verzichten zu können. Es war zu einem Zeitpunkt, als Modellierung beim Programmieren in Mode gekommen war. Vom Modell wurde automatisch in Maschinensprache über den Umweg einer Hochsprache wie Java übersetzt. Die Fehler, die beim Testen gefunden wurden, wurden automatisch in das Modell miteingearbeitet. Die Arbeit des Programmierers, Codieren und Testen würde sich dadurch als überflüssig erweisen.
Im Jahr 2014 hielt ich in Schweden einen Vortrag, der meiner Überzeugung diametral widersprach. Es war eine Konferenz unter dem Titel "Requirements Engineering". (Ich habe Ihnen das Paper schon einmal geschickt.)
Die große Unmöglichkeit besteht darin, dass der Mensch nicht in der Lage ist, seine Wünsche klar zu formulieren.
Dass sich allerdings vielleicht Gefühle, revolutionäre Ansichten oder der Ansatz zu Revolutionen erkennen lassen, könnte schon eine Möglichkeit werden.
Dass allerdings Trump so etwas nutzen kann, ist zu bezweifeln. Heute geht er auf die WHO los, dass die ihn nicht ausreichend gewarnt haben soll. Als ob sich D.T. je etwas von einem anderen hätte sagen lassen.
Meine Bedenken gehen in die Richtung, dass eine solche Technik verfügbar ist und dann entgegen der guten Absicht in einen Alptraum entwickelt werden könnte . dabei dachte ich nicht, dass T. selbst das können muss, sondern nur, dass es bereitsteht und er willfährige Helfer fände das umzusetzen und damit Kontrolle zu übernehmen. Ich hatte ihn auch nur als aktuelles Beispiel genannt - genausogut hätte es Spinoza oder Idi Amin sein können, charakterlose Schurken.
Wenn ich den verlinkten Artikel richtig verstanden habe ging es da um das Auslesen von Gedanken und die Umformung in Schrift bzw. Ton, gesprochenes Wort .... wenn das einmal etabliert sein sollte wäre es doch ohne große Schwierigkeit möglich jemanden in ein solches Gerät zu zwingen um seine Gedanken auszulesen. Da liegen meine Bedenken.
Die Bedenken sind mir schon klar. Sie werden in unzähligen SF-Geschichten und Filmen stark ausgebreitet.
Was kann man anderes sagen, als dass man sich sicher sein kann, dass es passieren wird.
Unter dem Motto:
"We do it because we CAN!"
Hier darf man hinzufügen, dass dieses Motto fast immer nur den Amerikanern angelastet werden kann. Vielleicht auch ein bisschen den Franzosen und vermutlich auch den Chinesen. (Warum Franzosen, werden Sie fragen. Ich beziehe mich auf Genforschung und -Manipulation.) Aber es ist eigentlich egal, wer letztlich den Durchbruch schaffen wird.
Wir können dann nur sagen: wie menschlich war doch Metternich oder die GESTAPO.
Sie werden Recht haben mt dem genannten Motto - aber ist es irgendwann einmal so weit, dass sich die Menschheit darauf besinnt, was zu verantworten ist, und nicht immer alles zuzulassen, was machbar ist? 'Aufgeben' wäre doch in diesem Fall wenn man nicht warnend den Zeigefinger erhebt und den Mangel anprangert.
Können wir uns auf eine Alternative für ihren letzten Satz verständigen? Mir scheint das Wort "menschlich" im Zusammenhang mit dem Wort "GESTAPO" irgendwie unglücklich geraten - wie wäre es stattdessen mit "dürftig", "kleinkariert", "mittelmäßig" oder "erbärmlich" o.ä.?
Wir können uns auf ein Ausweichwort einigen. Aber im Zusammenhang mit der GESTAPO wäre "dürftig und kleinkariert, bzw. erbärmlich auch zutreffend. Aber das sind ja trotzdem menschliche Erscheinungen. Und eine technik-unterstützte Bespitzelung würde eher unmenschliche Ausmaße annehmen. Aber wir brauchen darüber nicht diskutieren ...
Aber einen Witz muss ich anbringen. Fritz Muliar hat jüdische Witze auf einer Single-Schallplatte erzählt. Einen habe ich vor vielleicht 60 Jahren gehört.
Ein Gestapo-Mann soll einen Gefangenen überführen und gleich auch verurteilen. Er will sich einen Spaß machen. Er selbst hat ein Glasauge. Er sagt dem Gefangenen, dass er frei geht, wenn er erraten kann, welches seiner Augen das Glasauge ist. Nach einer langen Pause sagt der Gefangene: "das Linke".
Überrascht sagt der Verhörende: "Sie haben Glück und haben das richtige erwischt. Oder haben Sie es gar erkannt?"
Darauf der Gefangene: "Es blickt so menschlich."
Schon ein grausamer Witz, der aber doch sehr viel aussagt.
Den Herrn Muliar mochte ich sehr, er war die Spitzenbesetzung für den Schwejk.
Witze sind immer im Kern unbequeme Wahrheiten - das macht sie gerade so wirkungsvoll, wenn der Zuhörer wen anders leiden sieht, veräppelt sieht und sich freut, nicht das Opfer zu sein.
Ich sehe das nicht ganz so pessimistisch wie Ihr. Klar ist, dass alles was technisch machbar ist, auch gemacht wird. Aber kann so etwas wie maschinelles "Gedankenlesen" auch gesellschaftlich durchgesetzt, also von den Gesellschaften akzeptiert werden? Ich denke eher nein.
Was mich so sicher macht ist die Erfahrung der friedlichen Revolution in der damaligen DDR. Als Gründe für deren Untergang wurden immer die Mangelwirtschaft und fehlende Reisefreiheit genannt, aber das ist nur die halbe, bzw. oberflächliche Wahrheit. Einer der Hauptgründe für die Auflehnung des Volkes gegen seine Diktatoren war die Tatsache, dass kein Mensch mehr anderen Menschen (ver)trauen konnte. Zu oft hat die Stasi auch engste Freunde, Verwandte, ja sogar die eigenen Kinder, Geschwister oder Eltern zur Mitarbeit "verpflichtet".
Wenn ein Mensch merkt, dass permanent in seine Intimsphäre eingedrungen wird, seine höchst privaten Eigen- und Gewohnheiten ausgeforscht und seine Lieben ihm gegenüber zum Verrat gezwungen werden, dann wird er sich früher oder später auflehnen, auch wenn es ihn das Leben kostet. Und ja, ich weiß wie pathetisch das klingt. Aber die deutsche Geschichte ist voll von diesem nach Freiheit strebenden - und wie ich finde - positiven Pathos.
Und genau das würde auch passieren, wenn denn irgend ein durchgeknallter Diktator versuchen wollte, durch das Lesen der Gedanken Kontrolle über das von ihm unterdrückte Volk zu erlangen.
Aber auch sonst halte ich dieses Szenario kurz- bis mittelfristig nur für wenig realistisch. Erstens weil die vielbeschworene KI bei genauerer Betrachtung zwar künstlich, aber gar nicht intelligent ist. Was die KI ausmacht sind ihre guten Algorithmen, aber nicht ihre Erkenntnisfähigkeit. Im besten Falle ist KI smart. Aber mit dem menschlichen Gehirn kann man sie nicht vergleichen.
Überhaupt unser Gehirn. Das, und wie es funktioniert, ist doch nur in Ansätzen bekannt und verstanden. Und jetzt sollen ein paar Algorithmen herausfinden können, was ein Mensch denkt? Was macht die KI, wenn der Mensch, der den Gedanken lesenden Helm aufbekommt, sich zwingt nicht an einen rosa Elefanten zu denken und eben genau deshalb an einen rosa Elenfanten denkt? Weiß sie dann, dass der Mensch unter dem Helm sein Spiel mit ihr treibt? Interpretiert sie sein Denken (an den rosa Elefanten) als harmlos oder als besonders subversiv?
Ich glaube, dass es sich hier um nichts weiter handelt als um die Weiterentwicklung des Law-and-Order-Bullshit-Bingos über Lügendetektoren. Da glauben ja auch nur Amerikaner dran, dass das funktioniert. Bei uns sind die Dinger aus guten Gründen nicht zugelassen.
Nach den Erfahrungen die ich bisher im Corona-lockdown erlebt habe bin ich mir nicht so sicher ob das wirklich einen Aufstand hervorrufen würde. Schließlich sind wir Wessis in der Mehrzahl und nie solcher extremen Ausspähung ausgesetzt gewesen - das ist den meisten Menschen so fremd, dass es gelingen könnte, wenn man ihnen die richtige Karotte vorhält. Gepaart mit der Blockwartmentalität "Sie, bleiben Sie mal stehen, das sind keine 2 m mehr, Sie sind näher an mir dran!" (gestern bei der Tankstelle) von einem ca. 40-50-jährigen Schnösel.
Wenn es noch Jahre dauert. Ich habe noch die Zeit erlebt, da gab es in der ganzen Straße ein Telefon in der ansässigen Kneipe. Die Gespräche mussten angemeldet werden, der voll besetzte Gastraum (da gab es noch keinen Fernsehapparat) hörte mit. Und wo stehen wir heute beim telefonieren? Das war eine Spanne von 70 Jahren, aber schon vor 20 Jahren wurde mit den Mobiltelefonen geplant die jetzt seit 2010 der Normalfall sind - was früher eine Maschinnehalle füllte hält man heute in der Hand.
Ich würde gern glauben, dass es nicht so schnell geht. Aber wenn ich zurück schaue nimmt die Technik mittlerweile exponentielle Gestalt an: Akkuladung ohne Kabel - als ich ein Bub war gab es nur eine einzige Art von Batterie, das sind die heute obsoleten dicken Kawenzmänner gewesen. Die ersten selbstfahrenden Lieferfahrzeuge sind genehmigt (Info newsletter ingenieur.de) ....
PS
Wie lange schafft es ein normaler Mensch an rosarote Elefanten zu denken?
Und ist es nicht schon heute so, dass die *Dienste* eine völlig abstruse Sicht dessen haben, was als 'verdächtig' gilt - und echten Lumpen laufen ungeschoren herum oder werden gar als Agent light engagiert?
Irgendwo ist mir die Nachricht darüber auch über den Weg gerannt...
Aus technischer Sicht nun natürlich interessant wie sie das bewerkstelligen.
Allerdings muss ich sagen, wenn es nötig ist, dass der Proband dabei immer noch in Sprache denken muss, so ist die Sache, außer für das willentliche Bedienen irgendwelcher Geräte und Maschinen, doch sehr ungeeignet, Gedanken sichtbar zu machen.
Denn die Krux ist doch sehr häufig, dass jemand mit Worten einer anderen Person nicht beschreiben kann, was er meint oder welches Bild er vor Augen hat.
Könnten Bilder visualisiert werden, die jemand innerlich vor Augen hat, so wäre das ganz etwas anderes.
Man braucht dazu eigentlich nur das Beispiel von jemandem, der Probleme mit seiner Gefühlswelt hat und selten in der Lage ist, einen Vorgang konkret zu benennen und zu beschreiben - in Worte zu fassen.
So jemand denkt automatisch weniger in Worten, weil Worte für ihn nicht das beschreiben können, was er anderen gegenüber zum Ausdruck bringen will. Eventuell denkt der Proband mehr in Gefühlen oder Bildern - schon hat man es, dass diese Methode wirkungslos ist, weil sie an der Denkweise des Probanden vorbei geht.
Ich würde es jedenfalls nicht annehmen, dass das allzu schnell etwas mit dem "akkurat Gedanken lesen" wird.
Beiläufig:
Zu der Frage, ob alles, was technisch möglich ist, auch umgesetzt werden sollte, fällt mir thematisch Brechts "Leben des Galilei" ein. (War Thema in der Abiturstufe, mussten wir lesen...)
Wenn es erstmal gelungen ist Worte zu entschlüsseln und die Gedanken sichtbar, lesbar zu machen - was soll denn dann diese Forscher hindern weiter zu gehen und Bilder, Phantasien, Vergangenes auszulesen? Da gibt es vielleicht bei einigen Personen noch Grenzen - aber Alle? Wohl kaum. Was ich damit meine ist: Hat man erst mal den Ansatz verfeinert, ist die Variation in andere Bereich bestimmt kein Problem mehr!
Den Galilei habe ich zwar als Reclam gehabt, wir sind allerdings wegen des Kurzschuljahres nicht mehr dazu gekommen den zu lesen - worauf soll das hindeuten?
Theoretisch würde ich das nicht ausgeschlossen lassen, aber, wie schon die Entwicklung von KI und selbstfahrenden Autos zeigt, ist der Mensch nach wie vor viel zu dumm und geht viel zu grobmotorisch vor, um sein eigenes Denken abzubilden bzw. sichtbar zu machen.
Wenn man neuronale Vernetzung innerhalb des Hirns nur annähernd ein wenig versteht, sollte einem auffallen, dass die innere Verdrahtung eines Menschen teilweise zu individuell ist, um wirklich komplexe Inhalte aus seinem Denken akkurat für andere abzubilden. Im Prinzip, zumindest, wenn es um Bilder, Gefühle und dergleichen schon geht, müsste man die Grundmethodik jedes Mal an das Individuum anpassen, weil es für diese tieferen Vorgänge keine Mustervorlage gibt, wo man beispielsweise Elektroden anlegen muss, um einen Hirnstrom zu messen. Teilweise müsste man diese sogar ins Hirn anlegen können.
Weil die Areale, innerhalb derer diese Hirnfunktionen stattfinden, immer leicht etwas anders verteilt sind.
Solche Punkte wie wenn man evozierte Potentiale beim EEG misst, womit man die Durchleitungsqualität einer Nervenbahn vom Körperteil zum Kopf messen kann, sind mal ein paar Punkte, die bei jedem gleich sind - sie sind auch nicht wirklich weiter verfeinert, sondern man fängt nur den Grundstimulus einer größeren Quelle ein, die man auch noch absichtlich von außen reizt.
Sozusagen, du könntest bei einer motorischen Reizung des Hauptnervs an der Hand oder am Fuß nicht sagen, welcher der einzelnen Finger oder Zehen eine schlechtere nervliche Durchleitung hat.
Sichtbar machen von Gedanken müsste aber so detailliert vorgehen. Sonst würde man als Ergebnis in etwa die Qualität auf den Schirm kriegen, dass sich zwei Strichmännchen hauen und nicht etwa eine bestimmte Person A und eine bestimmte Person B (was man wohlmöglich aber genau im Detail wissen will).
Oder, man kann es auch noch andersherum betrachten aus einem anderen Feld: Sie können einem heute noch nicht einmal sagen, wie genau Geschlecht im Gehirn verankert ist, jenseits der anatomischen Situation - und da soll es den Ausblick geben, dass der Mensch in absehbarer Zeit die Gedanken eines anderen lesbar machen kann? Klingt angesichts dessen etwas utopisch.
Der Mensch hat bis heute noch nicht einmal die vielen Feinheiten seines eigenen Verstandes und seines Gehirns erfasst - geht viel zu grob dabei vor...
Über solcherlei würde ich mir daher noch nicht so viele Gedanken machen. Verfolgen - ja, aber wenn nicht gerade wirklich jemand in dem Sektor irgendwelche Wunder vollbringen kann, würde ich sagen, das Thema ist noch lange Zeit keines.
Galilei fällt mir als Assoziation dazu ein, weil es da um dieses Thema "Wie weit sollte Wissenschaft gehen?" dabei geht.
Gut, man muss dabei aufpassen, welche Fassung des Stücks man vor der Nase hat - Anfangs hat Brecht es wohl angedacht als den Konflikt zwischen Kirche und Wissenschaft (der sich bei Galileo Galilei ja historisch sehr widerspiegelt), und nach dem Niedergang der amerikanischen Atombomben und Japan hat er das Stück nachbearbeitet, sodass sich die allgemeine Botschaft daraus ein wenig verändert hat.
Quasi war es noch in der ersten Fassung "Wissenschaft sollte seinen Kopf durchsetzen", während es in der abgeänderten dann zu einem "Wissenschaft sollte sich immer zuerst genau überlegen, was sie tut und wofür".
Zentral spiegelte sich diese Erörterung im letzteren Teil des Stücks wieder, als Galilei von seinem früheren "Lehrling" Andrea (als Erwachsener) im Exil besucht wird und dieser ihn fragt, warum hat er damals widerrufen und vor dem Klerus gekuscht. Dabei wird Galileis eigene menschliche Unzulänglichkeit offensichtlich (er hatte zu viel Angst vor den Konsequenzen für seine Person), allerdings auch Andreas Einstellung offensichtlich, die zu dem Zeitpunkt einem "Wissenschaft sollte versuchen, sich durchzusetzen" entspricht. Daraufhin wirkt Galilei noch mal auf ihn ein - aber ehrlich gemeint - und wirft diese Frage auf, ob man forschen sollte nur um der Forschung Willen, oder ob man als Forscher dabei nicht auch einem gewissen Ethikkodex folgen sollte.
(Wenn ich mich richtig erinnere, endet das Stück dann damit, dass er Andrea ein oder mehrere Schriftstücke mit seinen Erkenntnissen doch mitgibt, als offensichtliche Willensbekundung, dass er doch zu dem steht, was er festgestellt hat - dass die Erde nicht das Zentrum des Sonnensystems ist -, und dieser nimmt sie dann außer Landes mit, um die Erkenntnis doch zu verbreiten. - Ich weiß jetzt nur nicht mehr, ob er ihm explizit den Auftrag gab oder ob er ihm freie Wahl darüber gelassen hatte, ob er die Inhalte seiner Schriften verbreitet oder nicht.
Die Sache ist über 10 Jahre schon her, dass ich das mal lesen musste...)
Vielen Dank für die Aufkärung zu Galilei, es ist, wie bei anderen Literatur-Klassikern auch, immer dieser Abstand vonmehr als 60 Jahren seit ich sie gelesen habe der das Bild dessen, was der Inhalt war, verschwimmen lässt. Bei einigen Werken bin ich nicht einmal sicher ob ich sie tatsächlich gelesen habe oder nur dazwischen irgendwie von deren Inhalt erfahren habe - mit Ausnahme beispielsweise von Dürrenmatt, über den ich ein Referat in der Prima gehalten habe. Also nochmal: "Danke!" für die Zusammenfassung.
“Wie weit sollte Wissenschaft gehen?”
Ja, das ist eine Grundfrage der Ethik ud die umfasst alle Lebensbereiche. Möglicherweise bin ich da zu pessimistisch, denn wie Sie schon darlegen, ist es wohl noch eine Weile bis das umgesetzt werden kann und dann erst würde es ja relevant als bedrohung. Olaf hat ja ähnlich abgewiegelt wie Sie - und deswegen nehme ich an, dass ich da mit größerer Wahrscheinlichkeit falsch liege.
Zu viel ist mir aus der Lebenszeit nicht hängen geblieben - unter Dauermüdigkeit kann man sich einfach nichts merken...
Von Brechts Galilei ist mir das aber so im Hinterkopf geblieben über das Stück.
Und siehe, er hat ja auch mit der Zeit und den Ereignissen den Inhaltsschwerpunkt auf etwas ganz anderes verlagert, weil mit ein paar drastischen äußeren Ereignissen auch die negativen Seiten der Wissenschaft offensichtlich wurden. Wissenschaft kann sich genauso zum Werkzeug der Bösen machen wie es Gutes tun kann...
Ich halte es deswegen mit dem Interesse an Kriegstechnik auch immer ein Stück weit bewusst.
Wenn jemand fragt "Du weißt doch, wozu die Dinger gedacht sind, oder?!", dann antworte ich bedächtig "Ja, das weiß ich... - Die sind nicht zum Nase-pudern da.".
Technik zu verherrlichen, nur weil man die selbst gut findet oder irgendeine Faszination damit einhergeht, sollte nicht zu der Naivität führen, dass man alle möglichen negativen Konsequenzen der selben Technologie auszublendet.
Sonst landet man irgendwann in einer selbst gebrauten Hölle...
Es sind ja aus jedem Lebensabschnitt immer nur Bruchstücke vorhanden - wollte man sich alle Einzelheiten merken müsste man einen "Kopf wie eine Gasuhr" haben - wie mein erster Chef, der begnadete Dr. Peter Kristl zu sprechen beliebte [" ..Kristl mit "K" - ich bin nachweislich kein Mädchen.. " war auch einer von seinen Sprüchen].
Nun hoffe ich darauf, dass Ihre und die Auffassung von Olaf Oberhand gewinnen und schließlich, bis die Technik so weit ist, auch die Ethik dahingehend gediehen sein wird.