EU-Parlament stellt Weichen für Websperren gegen Terror

Der Innenausschuss des EU-Parlaments drängt darauf, terroristische Webseiten zu löschen und notfalls auch zu sperren. Entwickler von Malware für Terrorakte sollen sich strafbar machen. Wenn Anschläge befürwortet werden, soll auch das strafbar sein.

EU-Abgeordnete fordern, dass Provider deutlich schärfer gegen extremistische Propaganda im Internet vorgehen. Als „wirksamstes Mittel“ gegen illegale terroristische Inhalte empfiehlt der federführende Innenausschuss, diese „an der Quelle“ zu entfernen. Die Mitgliedsstaaten sollten daher „alles in ihrer Macht Stehende unternehmen“, um darauf auch gemeinsam mit Drittländern hinzuarbeiten. Lässt sich der inkriminierte Content nicht löschen, sollen die EU-Nationen aber auch Maßnahmen treffen können, mit denen der Zugang dazu blockiert wird.

„Nicht-legislative“Maßnahmen

Die Ausschussmitglieder skizzieren in ihren mehrheitlich befürworteten Änderungsanträgen für eine neue Richtlinie zur Terrorismusbekämpfung einen ähnlichen Kompromiss, wie in der Richtlinie zum schärferen Vorgehen gegen den sexuellen Missbrauch von Kindern von 2011. Als zulässig erachtet werden sollen dieses Mal aber auch „nicht-legislative“ Maßnahmen, was Kritikern zufolge den Anforderungen an ein rechtsstaatliches transparentes Verfahren kaum genügen dürfte, auch wenn diese dem Beschluss nach prinzipiell eingehalten werden sollen.

Strafbar macht sich künftig den Innenpolitikern zufolge, wer „Schadprogramme“ entwickelt oder bereitstellt, mit denen terroristische Akte begangen oder gefördert werden können. Auch Malware-Programmierer, die es ermöglichen, sich an den Handlungen einer terroristischen Gruppe zu beteiligen, will der Ausschuss kriminalisieren.

Befürwortung strafbar

Die Mitgliedsstaaten sollen laut dem Votum generell verhindern, dass online Botschaften verbreitet werden, die zu Terrorismus anstiften oder terroristische Delikte verherrlichen. Dies soll schon dann strafbar sein, wenn etwa Anschläge „unmittelbar oder indirekt befürwortet“ werden und davon eine „eindeutige und erhebliche Gefahr“ ausgeht.

Die Mehrheit der Volksvertreter folgte mit dem Beschluss zum Teil einem Vorschlag der Berichterstatterin Monika Hohlmeier (CSU). Die Tochter des früheren CSU-Vorsitzenden Franz Josef Strauß hatte auch gefordert, Anonymisierungssoftware wie Tor und Verschlüsselungsprogramme als Hindernisse für polizeiliche Ermittlungen zu brandmarken. Dafür fand sie aber keine Mehrheit.

Kriminalisierung von Absichten

Die Linksfraktion stimmte gegen die Initiative. Ihre Netzexpertin Cornelia Ernst kritisierte, dass Schlüsselbegriffe wie „Terrorismus“ oder „radikalisierte Personen“ gar nicht klar definiert würden und schon Absichten kriminalisiert werden sollten. Dies sei „ein weiteres Puzzleteil auf dem Weg in Richtung eines Präventionsstaates, der die eigentliche Handlung nicht mehr voraussetzt, um eine Strafe auszusprechen“. Bürgerrechtsorganisationen wie European Digital Rights (EDRi) oder die „Digitale Gesellschaft“ monierten, dass das unausgegorene Vorhaben ohne Folgenabschätzung durchgeboxt werden solle und in „blindem Aktionismus Freiheiten“ opfere.

Der EU-Rat hatte sich schon im März für den Ansatz „Löschen und Sperren“ von Terror-Webseiten ausgesprochen. Verhandlungsführer der Mitgliedsstaaten, des Parlaments und der Kommission sollen nun im sogenannten Trilogverfahren eine gemeinsame Linie festzurren, die die Abgeordneten dann ohne ordentliche 1. Lesung in der Regel im Plenum nur noch durchwinken.

Quelle: EU-Parlament stellt Weichen für Websperren gegen Terror | heise online

Advertisements

Wünsche und Werte im Ausverkauf

Was bisher geschah: EntmachtungEnde Mai 2014 erschien mein Roman ZERO, in dem ich das Experiment eines Unternehmens ­namens Freemee beschreibe, das mittels Ratgeberprogrammen unbemerkt die Wertvorstellungen und Handlungen von Millionen seiner Nutzer steuert.

Eine Woche später veröffentlichte Facebook ein bereits 2012 durchgeführtes Experiment, in dem es heimlich die Emotionen Hunderttausender Nutzer manipuliert hatte. Die eine Hälfte bekam in der persönlichen ­Timeline vorwiegend negative Postings von Freunden gezeigt, die andere vorwiegend positive. Daraufhin posteten die „Negativempfänger“ selbst eher negative Nachrichten und die ­“Positivempfänger“ eher positive. Andere Experimente zeigen, dass Google und Facebook sogar Wahlen entscheiden können. Oder tun sie es bereits? Wir wissen es nicht. Das ist die höchste Stufe der Macht.

Die primitivste Form der Machtausübung ist Gewalt. Eleganter und in Demokratien üblich sind Regeln und Strukturen, denen die Menschen folgen. Foucault nennt dies Gouvernementalität. Auf der höchsten Stufe der Macht steuert jemand Gefühle, Wünsche und die daraus folgenden Handlungen anderer in seinem Sinn – und zwar ohne dass die Ohnmächtigen es bemerken. Frei nach dem Motto: „Lass sie glauben, es war ihre Idee.“ So wie Facebook die Emotionen seiner User.

Keine Agenten mehr

Wie wurden solche Unternehmen binnen weniger Jahre so mächtig? So wie Machthaber aller Zeiten: Sie vernichteten die ­Privatsphäre. Dazu müssen sie uns ­heute nicht mehr durch Nachbarn oder Agenten be­spitzeln. Stattdessen benutzen sie – und, wenn wir schon dabei sind, auch Geheimdienste und Behörden – Tele­fone, Computer, Leitungen, Kredit-, Bank-, Kunden-, Rabatt- und Vielfliegerkarten, GPS,  Überwachungskameras, „Wearables“ und immer mehr Sensoren in ­unserer Umwelt.

Unsere Welt wird komplett „sensorisiert“. Das klingt nicht ­zufällig wie „zensuriert“. Datensammel-, -analyse- und -handelsprogramme bewerten und verkaufen uns sekun­den­schnell an den Meistbietenden. ­Zivilisierte Gesellschaften ächten Leibeigenschaft, Sklaverei, Organ- und Menschenhandel als schwere ­Verletzung der Menschenwürde. Warum lassen wir die nichtphysische Form zu? Der Trick: Diese Teile unserer Menschenwürde, nämlich unsere Gedanken und Wünsche, werden „Daten“ genannt und so zu einem Produkt gemacht. Nennen wir es Menschendatenhandel.

Die meisten Menschen erkennen ihre Ohnmacht. ­Resigniert bemerken sie: „Ich kann ja nichts dagegen machen.“ Dabei haben wir ein System geschaffen, das dem Einzelnen Macht gibt: die Demokratie. Nicht zufällig fällt die rechtliche Etablierung der Privatsphäre zeitlich zusammen mit dieser historischen Machtverschiebung von einer kleinen ­Elite zu breiten Teilen der Bevölkerung.

Was weiß Google?

Jetzt hat sich die Macht erneut verschoben, wieder zu einer kleinen Gruppe hin. Schon 2010 erklärte Googles Executive Chairman Eric Schmidt: „Wir wissen, wo du bist. Wir wissen, wo du warst. Wir wissen mehr oder weniger, woran du denkst.“ Was weiß Google 2015?

Wissen ist Macht. Deshalb dürfen sie alles über uns wissen, aber wir nichts über sie. Auf den dafür nötigen kommunikativen Trick fallen sogar Richter herein, etwa in einem BGH-Urteil zugunsten der Schufa Anfang 2014: Algorithmen und Bewertungsmodelle haben sie zu untrennbaren Teilen des Unternehmens, quasi seiner Seele, ernannt. Und die ist Geschäftsgeheimnis. Dasselbe gilt in etwas anderer Form für die Geheimdienste, über deren Instrumente wir auch nichts erfahren sollen. Quod licet Iovi, non licet bovi.

Der Staat besitzt die Regel- und Strukturmacht, doch Unternehmen die noch mächtigere Gedankenhoheit – und dank vermeintlich gratis zur Verfügung gestellter Suchmaschinen, Sozialer Netzwerke, Navigationssysteme, Ratgeberprogramme und zahlreicher anderer Alltagserleichterer auch die Mittel zur Massenmanipulation. Apples Smartwatch tippt Ihr Handgelenk schon an wie ein mahnender Finger. Das Gewaltmonopol des Staates ist das Gewaltmonopol ­jener Unternehmen, die Wahlen in diesem Staat entscheiden. Es wird Zeit, sich die Macht zurückzuholen!

Was jetzt geschieht: Schlussverkauf

Genau das soll uns ein neues Geschäftsmodell ermöglichen. Als ich es 2012 zu Beginn meiner Arbeit an ZERO entwarf, dräute es am realen Horizont, seit 2014 tauchen monatlich neue Anbieter auf wie Datafairplay, ­Datacoup, Handshake, Meeco oder Luth Research. Statt den Gewinn der Daten anderen zu überlassen, können wir unsere Daten nun selbst sammeln und verwerten. Manche Anbieter geben ihren Kunden dafür bereits 100 Dollar – pro Monat! Doch merken Sie etwas? De facto öffnet das Modell lediglich den bislang nur Unternehmen zur Verfügung stehenden Datenhandelsmarkt für uns alle. Jetzt können wir uns selbst verkaufen. Ein Faust’scher Handel – „Lass sie glauben, es war ihre Idee“ in Vollendung! Wie eine Figur aus „ZERO“ bemerkt: „Datensouveränität ist auch nur ein Business-Modell“.

Das zeigt, wovon wir eigentlich sprechen: nicht von der Macht neuer Technologien und ihrer Schöpfer. Wir sprechen von der Macht einer Ideologie – der altbekannten freien Marktwirtschaft. So frei, dass man wieder mit Menschen handeln darf. Kapitalismus at its best, Marcuses „eindimensionaler Mensch“, Version 4.0.

Das zweite Erfolgsgeheimnis der neuen Kaiser: Definiere und beherrsche die Währung einer Gesellschaft. Unsere Wünsche, Träume, Wertvorstellungen und Taten sind eine berechenbare Kurve wie der Kurs einer Aktie. Handelbar sind Mut, Selbstbewusstsein, Gesundheit oder Familiensinn, und als nächstes sind natürlich Derivate darauf denkbar. Endlich besitzen Werte einen Wert!

Daten als Währung

In ZERO entwerfe ich als konsequente Weiterentwicklung bestehender geschlossener Systeme eine öffentliche Börse für den Handel dieser Werte. Das Produkt sind wir, die Währung sind unsere „Daten“. Je bessere Daten wir liefern, desto wertvoller ist das Produkt „Ich“. Welch ein Antrieb, sich laufend zu verbessern! „It’s selfie time!“, rufen die Kinder, zücken das Smart­phone und trainieren ihr Kameragesicht. Immer populärer werden digitale Ratgeber zur Selbstverbesserung, die uns gesünder, leistungsfähiger und erfolgreicher machen sollen. Ja und, was soll daran schlecht sein, dass es uns besser geht?

Das hängt davon ab, was „besser“ bedeutet. Woher wissen Sie, dass die Ratschläge wirklich in Ihrem Sinn sind? Facebook hat zugegeben, seine Nutzer zu Laborratten gemacht zu haben. Wessen Suchergebnisse zeigt uns Google wirklich? Wie errechnen die Schufa und ­andere Credit Rater unsere Kreditwürdigkeit – und entscheiden damit darüber, ob wir etwas kaufen dürfen oder nicht?Dynamische Preisgestaltung“ arbeitet längst mit individuellen Preisen für das gleiche Produkt – auch vor dem (digitalen) Regal sind wir längst nicht mehr alle gleich (viel wert). Warum empfiehlt Ihnen das Diätprogramm gewisse Nahrungsmittel wirklich? Führt uns das Navi auf dem schnellsten Weg ans Ziel – oder doch an ­einer Tankstelle der Kette vorbei, mit der der Navibetreiber einen Deal hat?

Übrigens: Der Verzicht auf Internet, Handy, Kundenkarten und Ratgebersoftware hilft nicht. Ich nenne das den Mineralwasser-Effekt: Zwischen lauter durchsichtigen Wassertropfen sind Luftbläschen umso besser sichtbar – und handelbar. Nur ihr Wert ist geringer.

Technologien nützen dennoch

Wir müssen uns Gedanken über die Technologien machen. Denn die können überaus nützlich sein, sogar Leben retten. Wesentlich intensiver nachdenken jedoch müssen wir über die Gesellschaftsform, in der wir leben und in der wir sie einsetzen wollen. Doch wie auch immer diese aussehen wird, die Technologien verändern sie, verschieben etwa Entscheidungs- und Verantwortungsstrukturen. Im selbstfahrenden ­Auto etwa muss bei einem Unfall nicht mehr der Lenker, sondern die Steuerungssoftware entscheiden, ob der Wagen in den Motorradfahrer links oder das Kind am Straßenrand rechts knallt. Muss sie natürlich nicht, sondern vorab der Programmierer. Und vor ihn setzt der Gesetzgeber – hoffentlich – den rechtlichen Rahmen, ­also letztlich wir Wähler in einer funktionierenden Demokratie, wenn wir noch in einer solchen leben.

Was machen dynamische Preisgestaltung und von Gesundheits-Apps überwachte Versicherungstarife mit einer Gesellschaft, die sich bislang an – einigermaßen – gleichem Recht für alle orientierte? Was werden wir mit Personen tun, die mit 80-prozentiger Wahrscheinlichkeit in den nächsten Stunden ein Verbrechen begehen? (In ­diversen Ländern ermordet man auf Basis solcher Programme per Drohne bereits Terrorverdächtige – oder Unschuldige.) Das sind nur einige Beispiele von vielen.

Was geschehen wird: Restmensch?

Moderne Programme lernen und entscheiden. Wir erleben den Advent der künstlichen Intelligenz. Auch in hochqualifizierten Berufen treten Menschen mittlerweile nicht mehr gegen Menschen an, sondern gegen Maschinen. In Schach und Jeopardy besiegten sie uns schon vor Jahren, Finanz- und Rechnungswesen, Militär, Medizin, Juristerei, Journalismus und andere übernehmen sie gerade. (Aus zahlendichten Datensätzen schreiben Programme in amerikanischen Nachrichtenagenturen bereits Wirtschafts- und Sportberichte.)

In der Industrialisierung haben wir das Handeln automatisiert und es weitestgehend den Maschinen übergeben. Mit der KI automatisieren wir nun das Denken und Entscheiden. Dabei müssen diese KI gar kein eigenes Bewusstsein entwickeln wie in Science-Fiction-Geschichten. Die schiere Menge und Komplexität der Systeme wird sie für uns unbeherrschbar machen. Immerhin ist die Machtfrage dann geklärt. Geben wir uns keinen Illusionen hin: „Kreativität, Empathie und andere urmenschliche Eigenschaften werden die Maschinen nie lernen“, glauben wir heute. So wie unsere Vorfahren meinten, Weben, Schustern, Schriftsetzen und derlei komplexe Tätigkeiten würden Maschinen nie beherrschen.

Wir reden von einer kopernikanischen Wende, die das Menschenbild zutiefst umgestalten wird – und damit unser Gesellschaftsmodell. Erwerbsarbeit? Demokratie? Selbstbestimmung? Bildung? Welche Rolle spielt der Mensch noch in diesem System? Wer definiert sie? Wir? Die Maschinen? Der derzeit beste Schachspieler ist ein Team aus KI und mehreren Menschen …

viaWünsche und Werte im Ausverkauf – bild der wissenschaft.

Vital-Radio: Herzfrequenz & Co. über WLAN überwachen

Eine neue Technologie erlaubt es, über ein Gerät im W-Lan-Router Herzfrequenz und Atem zu messen. Auf Distanz und ganz unauffällig. Die Entwickler träumen vom Einsatz in Krankenhäusern. Ein Schelm, wer Böses dabei denkt.

Man betritt den Raum, nichtsahnend, und wird erfasst: Atem, Herzschlag, Position, Gesten, alles wird aufgezeichnet, man merkt es nicht. Gut, wenn es zu unserem Besten geschieht, etwa um unserer Gesundheit willen. Schlecht, wenn ein solches System beispielsweise in einem Büro installiert wäre, um die Aktivität der Mitarbeiter zu erfassen. Fitness-Tracker und -Apps sind mittlerweile ein nicht zu unterschätzender Millionenmarkt. Neu ist aber, dass das Tracking auch durchgeführt werden kann, ohne dass derjenige es merkt.

„Vital-Radio“ nennt sich die neue Technologie, und sie ist klein genug, um in einem handelsüblichen W-Lan-Router untergebracht zu werden. Sie scannt die Umgebung – auf einer ganz ähnlichen Frequenz wie auch das W-Lan-Signal – nach Mustern, die auf Lebensformen hindeuten, misst die Entfernung zu ihnen und zeichnet dann Atemfrequenz und Herzschlag auf. Die Genauigkeit beträgt laut eines Forschungspapiers auch auf eine Entfernung von acht Metern noch über 98 Prozent.

Was Vital-Radio misst, sind Bewegungen: Das regelmäßige Heben und Senken eines Brustkorbs und der Pulsschlag etwa an der Halsschlagader – auch winzigste Vibrationen, die das menschliche Auge kaum erfassen kann. Und das sogar durch Wände hindurch. Schwierigkeiten hat das System bisher nur bei Personen, die in Bewegung sind. Und Menschen und Tiere kann es derzeit auch nicht zuverlässig unterscheiden.

„Atem und Herzschlag wären für Krankenhäuser interessant, wenn man Menschen überwachen möchte, ohne etwas direkt am Körper befestigen zu müssen“, sagt Fadel Adib, ein Mitglied des Forschungsteams, das am Massachusetts Institute of Technology (MIT) an der Entwicklung beteiligt war. Bei der Computerkonferenz CHI in Seoul, Südkorea, wurde die Technik der Öffentlichkeit vorgestellt, die Zeitschrift „New Scientist“ berichtet in ihrer jüngsten Ausgabe darüber.

Wenn diese Daten jedoch erfasst werden können, kann man schnell auch Schlüsse daraus ziehen, etwa auf die Gefühle der im Umkreis erfassten Lebensformen. Und wenn Körperbewegungen erfasst werden, ist es nur ein kleiner Schritt, aus der Körpersprache auf die Intention einer Person zu schließen. Als Teil eines Smart Homes könnte Vital-Radio helfen, eine Umgebung angenehmer zu machen, wenn der Bewohner sich nicht wohlfühlt. Geräte oder Heizung könnten sich gestisch steuern lassen. Das wäre etwa für ältere Personen interessant. Als nächsten Schritt möchte das MIT-Team daran arbeiten, auch den Herzschlag von ungeborenen Kindern zu messen.

Ja, Vital-Radio kann helfen, und seine Erfinder haben sicherlich allerbeste Absichten. Man kann sich aber auch vorstellen, dass es in öffentlichen Gebäuden wie Flughäfen oder Bahnhöfen zum Einsatz kommt, um besonders nervöse Personen aus Sicherheitsgründen zu identifizieren. Oder, wenn es günstig und unauffällig genug ist, auch in Alltagssituationen wie Bewerbungsgesprächen. Es wird nämlich niemand gefragt, ob er überwacht werden will oder nicht. Vital-Radio misst einfach – und verrät alles. Und man bekommt es nicht einmal mit.

viaVital-Radio: Herzfrequenz & Co. über WLAN überwachen.

Big Data und die Emotionserkennung in Gesichtern

An die Weitergabe unserer Aktivitäts- und Standortdaten haben wir uns fast gewöhnt. Doch sind wir auch bereit, unser Seelenleben preiszugeben? Neue Technologien kundschaften nun unsere Gefühle aus.

Maschinenliebe ist im Trend. Im Film „Her“ von Spike Jonze verliebt sich der einsame Held in das Betriebssystem „OS1“, das ihn besser versteht, als es ein Mensch je könnte. Und in „Ex Machina“, der im April in die Kinos kommt, ist es eine Roboterfrau mit dem Namen „Ava“, die dem Mann die Augen verdreht und zum Objekt seiner Sehnsüchte wird. Doch findet sich die Vorstellung einer empathischen Maschine schon viel früher, etwa in E.T.A. Hoffmanns Erzählung „Der Sandmann“, in der dem Protagonisten Nathanael das Automatenwesen Olimpia als perfekte Gefährtin erscheint. Der Wunsch, im Apparat statt kalter Mechanik echte Gefühle anzutreffen, ist uralt.

Zwar ist die technische Entwicklung noch nicht ganz so weit, aber die ersten Schritte werden gerade gemacht. Computerprogramme, die menschliche Emotionen noch nicht selbst empfinden, aber präzise nachvollziehen können, existieren bereits. So lautet jedenfalls das Versprechen jener aufstrebenden Start-Up-Unternehmen, die sogenannte „emotion analytics“ betreiben und sich Affectiva, Emotient oder Beyond Verbal nennen. Mittels Gesichts- oder Stimmerkennung lesen uns ihre Programme unsere Wünsche und Leidenschaften buchstäblich von den Lippen ab – und das in Echtzeit.

Weltweit 2,5 Millionen Gesichter ausgewertet

Die amerikanische Firma Affectiva etwa konzentriert sich auf die Analyse von Gesichtsmustern. Die wissenschaftliche Basis bildet die Forschung des Psychologen Paul Ekman, der in den siebziger Jahren Pionierarbeit bei der Klassifikation von Gesichtsausdrücken leistete. Ekman schlüsselte auf, welche Muskeln oder Muskelgruppen am Zustandekommen eines bestimmten Gesichtsausdrucks beteiligt sind und entwickelte darauf aufbauend ein Erkennungssystem namens „Facial Action Coding System“ (FACS), mit Hilfe dessen er eine Reihe sogenannter Basisemotionen bestimmte: darunter Freude, Wut, Ekel oder Überraschung. Affectivas Software geht darüber sogar noch hinaus. Mit Hilfe komplexer, selbstlernender Algorithmen ist man in der Lage, ein größeres Spektrum an Emotionen abzubilden als Ekman es vermochte.

Um das Mienenspiel der Probanden zu erfassen, genügt dann eine einfache Webcam. Das Analyseprogramm des Unternehmens, Affdex, weist dem jeweiligen Gesichtsausdruck umgehend eine bestimmte Gefühlsregung zu – im Abgleich mit seinem Datensatz. Und der, Big Data macht es möglich, ist riesig. Affectiva hat weltweit bereits 2,5 Millionen Gesichter in 75 Ländern ausgewertet, ein Ende ist nicht in Sicht. Die globale Reichweite ermöglicht es dem Unternehmen, den Ausdruck von Gefühlen über kulturelle Unterschiede hinweg zu untersuchen. Resultat soll ein universales Modell menschlicher Mimik sein.

Mittlerweile ist Affectiva zum Marktführer der Branche aufgestiegen. Letztes Jahr beschloss man eine Partnerschaft mit Millward Brown, der zweitgrößten Marktforschungsfirma der Welt, die unter anderem Kunden wie Unilever, Kelloggs und Pepsi berät. Durch die Kooperation wird Affectivas Software ab sofort standardmäßig verwendet, um die Reaktion von Konsumenten auf Werbung aller Art zu untersuchen. Außerdem testet man in Zusammenarbeit mit Fernsehsendern die Resonanz des Publikums auf Serienpiloten. Für Rana el Kaliouby, Gründerin und wissenschaftlichen Leiterin des Unternehmens, ist das erst der Anfang. „Wir leben in einer Emotionsökonomie: Gefühle beeinflussen ganz maßgeblich die wirtschaftlichen Entscheidungen, die wir treffen. Emotional involvierte Konsumenten sind das, wonach Unternehmen suchen, denn bei ihnen ist es wahrscheinlicher, dass sie sich an das Produkt erinnern, darüber reden, und es schließlich kaufen.“ sagte sie im Gespräch mit FAZ.NET. Bisher habe sich die Marktforschung auf die Befragung der Konsumenten verlassen, doch mit Hilfe von Emotionsdaten könne man viel präziser bestimmen, was die Menschen bewegt und Produkte optimal darauf abstimmen. Ein Beispiel biete die Konzeption von Filmtrailern: „Man hat immer eine Reihe von Szenen, die man auf unterschiedliche Weise zusammensetzen kann. Unsere Technologie hilft dabei, die besten Szenen auszuwählen, für ein bestimmtes Publikum, eine bestimmte Zielgruppe.“

Affdex ist sogar in der Lage, sogenannte Mikroexpressionen zu registrieren, also die unfreiwilligen, nur Sekundenbruchteile dauernden Veränderungen auf unseren Gesichtern, wenn uns ein Gefühl überkommt. Wir kennen das aus der populären Fernsehserie „Lie To Me“, die sich um einen Ermittler dreht, der über ähnliche Fähigkeiten verfügt. Doch hat die Serie einen realen Hintergrund: Paul Ekman persönlich betreibt ein Unternehmen, das FBI wie CIA berät und Workshops für Agenten anbietet, um sie darin zu schulen, in Verhören Lügner zu identifizieren. Wenn aber Computerprogramme den Job zuverlässiger und automatisiert erledigen können, werden solche Einweisungen bald überflüssig sein. Rana el Kaliouby betont, dass Affectiva die Zusammenarbeit mit Polizei oder Geheimdiensten ablehne. Konkurrenten wie die Firma Eyeris sind aber, wie das Wall Street Journal kürzlich berichtete, weniger zimperlich.

Flirthilfe für Gefühlsblinde

Auch Affectiva sucht aber für seine Software weitere Anwendungen. So arbeitet man seit kurzem mit ooVoo zusammen, einem Dienst für Videotelefonie. In Zukunft wird man seine Gesprächspartner nicht nur sehen und hören, sondern auch herausfinden können, was sie gerade fühlen. Der Dozent eines Onlinekurses könnte etwa die Aufmerksamkeit seiner Schüler kontrollieren – und ob sein letzter Witz gut ankam. Bei Geschäftsverhandlungen per Videokonferenz könnten die Parteien überprüfen, ob die Gegenseite wirklich mit offenen Karten spielt. Und auch bei Vorstellungsgesprächen lässt sich das Programm nutzen: Bewerber müssten sich dann nicht nur den Augen der Chefs, sondern auch dem unbestechlichen Blick der Kamera aussetzen. Von den unendlichen Möglichkeiten für notorisch eifersüchtige Partner ganz zu schweigen.

Wie eine Welt aussehen könnte, in der computergestützte Emotionsanalyse allgegenwärtig ist, zeigt ein Werbevideo des israelischen Unternehmens Beyond Verbal, das sich anstatt auf Gesichts- auf Stimmerkennung spezialisiert. Flirtanalphabeten verspricht der Sprecher die Lösung all ihrer Probleme: Du bist mal wieder nicht in der Lage, ihre Körpersprache zu deuten? Lass deine mobile App die Sache erledigen – indem du ihre Stimme aufnimmst und feststellen lässt, ob sie sich amüsiert.

Eine neue Dimension des Datensammelns

Zunächst klingt das absurd. Anderseits: Seit Google Maps auf Smartphones zu finden ist, fragt ja auch niemand mehr nach dem Weg. Und wenn ein fetziger Song läuft, dessen Namen man nicht kennt, wird der Musikdetektor Shazam angeworfen, anstatt in der Kneipenrunde zu diskutieren. Wieso also nicht eine App, um sich auf dem Terrain der Gefühle zurechtzufinden? Yuval Mor, Vorstandsvorsitzender von Beyond Verbal, glaubt jedenfalls fest daran, dass seine Technologie helfen kann, sowohl Wohlbefinden als auch psychische Leistungsfähigkeit der Menschen zu verbessern. Er selbst nutze die Smartphone-App – sie heißt übrigens „Moodies“ – etwa auf Konferenzen; so könne er sich vor wichtigen Reden vergewissern, dass er entschlossen und selbstsicher klinge. Auch während des Interviews für diesen Artikel nimmt er sich selbst auf und teilt mir die Ergebnisse mit: „Am Anfang des Interviews zeigt mit die App ‚Selbstkontrolle‘ an. Meine Stimmung veränderte sich dann hin zu Freundlichkeit, mit Weitsicht und Willensstärke als sekundären Emotionen. Am Ende zeigt mir die App, dass ich zufrieden bin, und überzeugt von dem, was ich sage.“

Zehn bis fünfzehn Sekunden an gesprochener Sprache genügen Beyond Verbals Software, die Erkenntnisse aus Physik und Neuropsychologie nutzt, um den Gemütszustand der Sprecher zu berechnen – unabhängig von der verwendeten Einzelsprache. Kommerzielle Verwendung findet die Technologie etwa in Call-Centern, um die Verkaufseffizienz von Mitarbeitern zu verbessern. Denn oft komme es nicht darauf an, was man sagt, sondern wie man es sagt, so Mor. Ist der Klient aufgebracht, und drauf und dran, seinen Vertrag zu kündigen? Oder klingt er zufrieden und aufgeschlossen gegenüber neuen Angeboten? Der Verkäufer kann durch die Sprachanalyse seine Strategie anpassen, das Programm gibt ihm dabei laufend Handlungsvorschläge. So erzielt er jeweils den besten Preis.

So weit, so effizient. Bleibt nur die Frage: Wird hier nicht eine neue Dimension des Datensammelns erreicht? Möchten wir unsere Gefühle den Maschinen wirklich preisgeben? Obwohl wir uns an die freie Zirkulation unserer Aktivitäts- und Standortdaten schon beinahe gewöhnt haben, ist die Erfassung dessen, was wir als unser Intimstes, unser innerstes Wesen begreifen, noch unbekannt. Zwar legen aktuelle Studien nahe, dass auch unsere Facebook-Likes bereits Rückschlüsse auf unsere Persönlichkeit und psychische Disposition erlauben. Doch das Auslesen unserer Gefühle in dem Moment, in dem wir sie empfinden, ist ein Quantensprung.

Welcher Film passt gerade zu deiner Stimmung?

Man nehme die Bedenken der Skeptiker ernst, meinen die Unternehmer und betonen, dass man immer das Einverständnis der Menschen einhole, deren Emotionen aufgezeichnet würden. Sonst aber sei alles eine Sache der Gewöhnung. In der Zukunft werden empathische Maschinen ganz selbstverständlich unseren Alltag bevölkern, glaubt Yuval Mor: „Technische Geräte oder sogar humanoide Roboter werden einem sagen können: ‚Du siehst müde aus. Vielleicht willst du beim nächsten Café Halt machen.‘ Und wenn du ins Kino gehst, wird die Technologie dir einen Film empfehlen, der deiner Stimmung entspricht.“ Rana el Kaliouby meint ebenfalls, dass die Technologie sich durchsetzen und das Leben der Menschen bereichern wird: „Ich denke, in fünf bis zehn Jahren werden all unsere Geräte einen Emotionschip haben, der kontinuierlich unsere Stimmung liest. Dein Smartphone oder deine Smartwatch werden auf deinen emotionalen Zustand reagieren können.“

In „Her“ gibt es eine Szene, in der alle Menschen mit Knopf im Ohr durch die Stadt laufen – scherzend, lächelnd, mit traumverlorenem, glücklichen Blick. Doch sind es nicht andere Menschen, mit denen sie reden, sondern Samantha, das jederzeit aufmerksame, einfühlsame Betriebssystem. Werden Künstliche Intelligenzen am Ende noch die großen Tröster der Menschheit? Oder werden sie uns vielmehr manipulieren, wie es „Ex Machina“ vorführt? Fest steht: Egal, ob wir Wohlwollen oder Unbehagen gegenüber der technischen Entwicklung verspüren – die Maschinen werden es erkennen.

viaBig Data und die Emotionserkennung in Gesichtern.

Neue Snowden-Dokumente: Vodafone – der lange Arm des Geheimdienstes?

Neue Dokumente des Whistleblowers Edward Snowden geben tiefe Einblicke in die alltägliche Zusammenarbeit zwischen Geheimdiensten und Telekommunikationsunternehmen in Großbritannien. Im Mittelpunkt steht eine Firma, die heute zum Vodafone-Konzern gehört.

Cornwall, im Südwesten Englands: Ein Paradies für Naturliebhaber, Surfer und Wanderer. Und für Spione. Dort wo die Schafe blöken, türmen sich im Hintergrund die Satellitenschüsseln des Global Communications Headquarter auf. Der GCHQ ist Großbritanniens Auslandsgeheimdienst, der durch Enthüllungen des Whistleblowers Edward Snowden in den Ruf geraten ist, sich für alles zu interessieren, was Menschen sich zu sagen haben.

Wie die Spione dabei mit britischen Telekommunikationsunternehmen konkret zusammengearbeitet haben sollen, das ergibt sich aus bislang unveröffentlichten Dokumenten aus dem Snowden-Archiv, die NDR, WDR und „Süddeutsche Zeitung“ einsehen konnten. Darin zeigt sich: Zu einer Firma scheinen die Bande des GCHQ offenbar besonders eng gewesen zu sein: Cable & Wireless, ein Unterseekabel-Betreiber, der 2012 von Vodafone übernommen worden ist.

Deckname GERONTIC

In den Dokumenten trägt Cable & Wireless den Decknamen GERONTIC und nahezu überall wo man hinschaut, taucht dieser Deckname auf. Zum Beispiel in einer akribisch geführten Excel-Tabelle aus dem Jahr 2009, in der die GCHQ-Mitarbeiter auswerten, auf welche Kabel sie Zugriff haben und wie viele Daten sie ausleiten können.

63 Kabel sind dort aufgeführt, bei rund der Hälfte ist als Gehilfe beim Lauschen GERONTIC verzeichnet. Gleiche Datei, nächste Tabelle: Das GCHQ habe damals, 2009 Zugriff auf knapp 7000 Gigabit pro Sekunde – eine unglaubliche Menge, erst recht für die damalige Zeit. Knapp 70 Prozent davon sollen kommen von: GERONTIC.

Auch die Firma British Telecom wird in den Dokumenten genannt, unter ihrem Decknamen REMEDY oder der Kabelbetreiber Level 3, getarnt als LITTLE. Insgesamt sind es sieben Unternehmen. Aber nach den Unterlagen sei wohl keines so aktiv gewesen wie die heutige Vodafone-Tochter.

Keine Info unter dieser Nummer

Man möchte Cable & Wireless gern dazu befragen, aber das geht ja nicht, die Firma gibt es nicht mehr. Im Sommer 2012 wurde Cable & Wireless von Vodafone gekauft, für rund eine Milliarde Euro. Es war Vodafones großer Einstieg in das Geschäft mit den Kabeln. Also fragt man Vodafone nach GERONTIC und den vielen Zugängen zu den Daten der Kunden, die man dem GCHQ gab. Dort, so heißt es, habe man von konkreten Codenamen oder Operationen keine Kenntnis.

Nach Medienberichten zu der Snowden-Affäre sei man aber auf die Suche nach Altlasten in der hauseigenen Kabel-Abteilung gegangen. Das Ergebnis: Man konnte keine Hinweise auf illegales Vorgehen bei Cable & Wireless finden. Man habe stets nur das getan, was das Gesetz vorschreibt. Alles sauber im Hause Vodafone, soll das wohl heißen. Eine Antwort, die man im Zuge der Snowden-Enthüllungen sehr oft von Vodafone gehört hat.

Dokumente legen Kooperation nahe

Illegal ist das Ausleiten von Daten auch in schier unfassbaren Mengen in Großbritannien unter bestimmten Umständen nicht. Aber sauber? Wenn man die Dokumente weiter durchforstet, stößt man auf Zeugnisse der alltäglichen Zusammenarbeit zwischen dem Geheimdienst und der heutigen Vodafone-Tochter.

In wöchentlichen Status-Berichten im Intranet erzählten sich die GCHQ-Projektgruppen von ihren Fortschritten, zumindest bis 2012. Im Telegraphen-Duktus schreiben sie ihre Einträge, die zu dem Bild des gesetzlich verpflichteten Zwangshelfers so gar nicht passen wollen, das Vodafone von sich selbst und auch seiner damals eigenständigen Kabel-Tochter vermitteln möchte.

27. Juni 2008:
• „GERONTIC wurden die Spezifikationen der Kernkomponenten unseres Interesses zu internen Tests gegeben (…). Wenn die Tests erfolgreich verlaufen, erlaubt das die Machbarkeitsstudie im Zielsystem.“
• Kalendereintrag: Treffen des gemeinsamen GERONTIC-Projektteams.

08. August 2008
• „Wir werden gemeinsam mit GERONTIC nachprüfen, ob es Möglichkeiten gibt, früher Vorteile aus dem Zugang zu bekommen, indem wir andere Ausleitungsrouten nutzen.“

29. August 2008
• „Was wir kommende Woche planen: (…) Über die Beziehung zu den GERONTIC-Betreiberdienstes und dem Team für besondere Beziehungen sprechen.“

03. Oktober 2008
• „GERONTIC hat einen lokalen Testaufbau ihrer Zugänge in Großbritannien aufgebaut. Damit kann GERONTIC die Funktionalität der Switch-Software überprüfen.“ Und weiter: „Wenn dieser Test erfolgreich ist, ist der nächste Schritt, dass GERONTIC so etwas alleine in ihrem eigenen Netzwerk durchführt.“

31. Oktober 2008
• „GERONTIC plant gerade den Ablauf der Abhör-Installationen“

28. November 2008
• „Update von GERONTIC zu den Möglichkeiten zukünftiger Zugänge und Datenumleitungen.“

06. Februar 2009
• „[Mitarbeiter] ist dem Team beigetreten. [Mitarbeiters] Rolle ist ein Vollzeit-Projektverwalter integriert bei GERONTIC.“

Auch Hinweise auf größere Geldflüsse tauchen in den Snowden-Dokumenten auf. So findet sich in einer Budget-Tabelle für den Februar 2009 ein Eintrag in Höhe von fast sechs Millionen Pfund, gebucht auf ein GERONTIC-Projekt. An andere Stelle sind es sogar einmal fast 20 Millionen Pfund in einem Monat.

Es bleibt ein ungutes Gefühl

Gemeinsame Projektgruppen, Millionen-Zahlungen, das eigenständige Testen von Abhör-Equipment im eigenen Netz – dazu möchte man Cable & Wireless sehr gern befragen. Aber das Problem bleibt bestehen: Die Firma heißt heute Vodafone und dass zwischen die Vorgänger-Firma und die Schnüffler vom GCHQ offenbar kaum ein Blatt Papier passte, dafür hätten interne Untersuchungen keine Anhaltspunkte ergeben, insbesondere nicht für illegale Aktivitäten.

Aber kann man sich als Kunde eines Kommunikationsanbieters wohlfühlen, wenn Dokumente nahe legen, dass ein Teil des Konzerns früher „Abhör-Installationen“ geplant hat? Wenn es nach den Unterlagen gemeinsame Projektgruppen mit dem Geheimdienst gab, offenbar sogar Spione im Unternehmen integriert waren?

Also fragt man Vodafone, wie die Firma diese Einträge bewertet. Der Konzern sagt, er habe von den geheimen Operationen nie gehört und halte sich ohnehin jederzeit an das Gesetz. Zu den Zahlungen sagt das Unternehmen zwar auch, dass es von ihnen nie gehört hat. Fügt aber hinzu, dass auch im Zuge von Maßnahmen, zu denen man gesetzlich verpflichtet sei, Kosten entstehen können. Und die bekämen Telekommunikationsunternehmen in einigen Fällen von der Regierung erstattet. Man verdiene daran nichts.

Hat Vodafone auch das Geschäftsgebaren übernommen?

Daran zweifelt Dr. Sandro Gaycken. Der Ex-Hacker ist heute IT-Sicherheitsberater und arbeitet an der Freien Universität Berlin. NDR, WDR und „SZ“ haben ihm einige Ausschnitte aus den Budget-Unterlagen des GCHQ vorgelegt. Seine Vermutung: „Wahrscheinlich wurde Vodafone zur Kooperation gezwungen und dann hat man sich gedacht: Wenn wir schon kooperieren müssen, können wir daraus auch gleich ein Geschäft machen. „

Ob Vodafone letztlich nur die Kabel von Cable & Wireless übernommen hat, oder auch das Geschäftsgebaren im Umgang mit dem Geheimdienst, lässt sich anhand der Dokumente nicht abschließend klären. Nicht, weil es die Dokumente nicht hergäben, sondern weil die GCHQ-Leaks schlicht nicht bis in die Zeit nach der Übernahme hineinreichen.

Dann ist da noch NIGELLA

Aber eine Spur in die Gegenwart des Kommunikationsriesen findet sich dann doch noch. Und die ist ausgesprochen brisant: Es geht um einen Zugang mit dem Codenamen NIGELLA – eine Abhör-Aktion an einem Untersee-Kabel, das Großbritannien mit Afrika, dem Nahen Osten und Asien verbindet. Flag Europe Asia (FEA) heißt das Kabel, auch deutsche Daten fließen hindurch, zum Beispiel wenn deutsche Unternehmer mit Geschäftspartnern in Fernost kommunizieren.

Der Betreiber ist eine indische Firma namens Reliance, die in Cornwall eine moderne Anlandestation gebaut hat. Dort wird das Kabel an das lokale Datennetz der Briten angeschlossen – und genau dort in dieser Anlandenstation, soll sich laut der Unterlagen der Geheimdienst GCHQ in das Kabel eingehackt haben. Angeblich mit Hilfe von Vodafone, das den Anschluss an das lokale Netz (Backhaul genannt) betreibt.

Wurde bei der Konkurrenz eingebrochen?

Den internen GCHQ-Dokumenten zufolge gelang es GERONTIC, dem Geheimdienst dort Zugriff auf Reliance-Infrastruktur zu verschaffen. GERONTIC soll dabei offenbar Metadaten weitergegeben haben, zum Beispiel sogenannte Performance-Statistiken der Router und Übersichten, welche Webseiten die Nutzer angesurft haben. Diese Daten sollen in ein Sammelsystem namens INCENSER geflossen sein, für das sich auch für das Jahr 2013 noch zahlreiche Unterlagen und Belege finden lassen.

Das klingt sehr technisch, würde aber im Umkehrschluss heißen: Cable & Wireless wäre offenbar für den Geheimdienst bei der Konkurrenz eingebrochen. Und das wohl auch noch nach der Übernahme durch Vodafone.

Damit konfrontiert, teilt Vodafone mit, keinen Zugriff auf Nutzerdaten andere Firmen zu gewähren. Und auf Nachfrage, wie es denn mit Protokollen, Statistiken und Metadaten so stehe, teilt das Unternehmen noch einmal mit, man habe keinen Zugriff auf Nutzerdaten anderer Firmen und auch keine weitergegeben. Und Metadaten? Ein drittes Mal: keine Antwort. Abgesehen davon, natürlich, dass man sich nur an das Gesetz halte.

Vodafone auch im Visier deutscher Ermittler

Auch der deutschen Bundesregierung ist die Nähe zwischen Vodafone und dem GCHQ offenbar aufgefallen. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat nach den Snowden-Enthüllungen im vergangenen Jahr die Mobilfunkanbieter in Deutschland untersucht und verlangte von den Netzbetreibern in Deutschland Auskunft, ob womöglich Daten ins Ausland abgeleitet werden.

Alle Betreiber antworteten zur Zufriedenheit des BSI – bis auf einen: Vodafone. In einem als Verschlusssache eingestuften Schreiben aus dem Jahr 2013, das NDR, WDR und „SZ“ einsehen konnte, heißt es: „Die Selbstauskunft von Vodafone Deutschland lässt für mobile Kommunikation innerhalb des deutschen Rechtsraums bislang keinen eindeutigen Schluss zu, ob der Zugriff auf bzw. die Ausleitung von Metadaten (bspw. „Billing Informationen“) oder SMS in ausländische Rechtsräume unterbleibt.“

Vodafone sagt dazu, man verstehe nicht, wie das BSI zu solch einer Einschätzung komme, und könne das nicht nachvollziehen.

viaNeue Snowden-Dokumente: Vodafone – der lange Arm des Geheimdienstes? | tagesschau.de.

US-Senat stoppt Geheimdienstreform: NSA muss Spionagepraxis nicht ändern

Die Republikaner im US-Senat haben die von Präsident Barack Obama versprochene Geheimdienstreform gestoppt. In einer Verfahrensabstimmung verfehlte die Gesetzesvorlage die notwendige Mehrheit von 60 der 100 Senatoren, die für den Beginn einer Debatte mit späterer Abstimmung notwendig gewesen wäre. Zwar unterstützten die meisten Senatoren der Demokraten Obamas Pläne. Die Republikaner wandten sich aber dagegen, weil sie fürchten, dass der ausreichende Schutz vor Terroranschlägen sonst nicht mehr gewährleistet wäre.

Die Geheimdienstreform ist damit zwar noch nicht endgültig vom Tisch. Sie kann aber frühestens im kommenden Jahr vom neu gewählten Kongress wieder auf die Tagesordnung gesetzt werden. Da dann aber die Republikaner in beiden Kongresskammern über eine Mehrheit verfügen werden, gilt eine Verabschiedung der Reformpläne auf der Basis der Obama-Pläne als unwahrscheinlich.

„Patriot Act“ von 2001 sollte geändert werden

Der nun gescheiterte „Freedom Act“ sollte den „Patriot Act“ ändern, der den Geheimdiensten nach den Terroranschlägen vom 11. September 2001 weitreichende Befugnisse bei Überwachungsmaßnahmen eingeräumt hatte. Wie intensiv allein der Geheimdienst NSA diese Möglichkeiten nutzte, wurde durch die Veröffentlichung von Dokumenten des früheren NSA-Mitarbeiters Edward Snowden seit 2013 international bekannt. Der US-Geheimdienst späht demnach nicht nur im großen Stil die Telefon- und Internetkommunikation von Menschen rund um den Globus aus, sondern spionierte jahrelang auch Spitzenpolitiker befreundeter Staaten wie Bundeskanzlerin Angela Merkel aus.

Die nun gescheiterte Reform sah vor, die massenhafte Sammlung von US-Telefonverbindungsdaten durch die NSA zu beenden. Stattdessen war geplant, dass die Daten bei den privaten US-Telefongesellschaften gespeichert werden. Um auf bestimmte Datensätze zugreifen zu können, hätte sich die NSA für jeden begründeten Einzelfall einen Beschluss des Spezialgerichts Foreign Intelligence Surveillance Court besorgen müssen.

Höhere Hürden für Datenabfragen

Ziel des Gesetzentwurfs war auch mehr Transparenz bei dem geheim tagenden Foreign Intelligence Surveillance Court. Bislang winkt das Geheimgericht die allermeisten Anträge auf Datenabfragen durch. Der Gesetzentwurf sah dazu vor, dass das Gericht bei seinen Entscheidungen auch Anwälte hört, die eine Gegenposition zu den Geheimdiensten vortragen. Außerdem sollten Internetunternehmen genauere Angaben zu den Datenabfragen durch die Behörden veröffentlichen dürfen.

viaUS-Senat stoppt Geheimdienstreform: NSA muss Spionagepraxis nicht ändern | tagesschau.de.

Auch Partnerbörse OkCupid manipulierte Nutzer mit Experimenten

Wer Internet-Dienste nutzt, muss damit rechnen, dass an ihm experimentiert wird – das ist die harte Botschaft der Partnerbörse OkCupid. Sie berichtete über drei Versuche, bei denen Profile von Nutzern verändert wurden.

Nach der Aufregung über Facebooks Psychoexperiment gießt die Partnerbörse OkCupid Öl ins Feuer und enthüllt eigene Versuche mit Nutzerdaten. Bei einem davon wurde Mitgliedern angezeigt, dass sie den Algorithmen zufolge besser zu einander passten als eigentlich errechnet. OKCupid habe damit testen wollen, wie stark solche Empfehlungen das Verhältnis der Menschen beeinflussen, hieß es am späten Montag in einem Blogeintrag. Er trug den provokanten Titel „Wir experimentieren an Menschen!“.

Bei anderen Experimenten seien Fotos und Profilinformationen ausgeblendet worden. Die Nutzer seien anschließend über die Versuche aufgeklärt worden, hieß es. Bei OkCupid wurde Mitgliedern mit einer von der Software ermittelten Übereinstimmung von 30 Prozent angezeigt, sie passten angeblich sehr gut zu einander mit einem Wert von 90 Prozent.

Man habe testen wollen, «ob Leute einander mögen, nur weil sie denken, das müsse so sein», schrieb OKCupid-Manager Christian Rudder. Das trat auch ein: Die Nutzer in dem Versuch tauschten deutlich mehr Nachrichten aus als sonst bei einem Übereinstimmungswert von 30 Prozent. Bei den Versuchen sei es darum gegangen, den Service besser zu machen und die Nutzer besser zu verstehen, betonte Rudder.

viaAuch Partnerbörse OkCupid manipulierte Nutzer mit Experimenten | heise online.