Читать книгу: «Die Sphinx des digitalen Zeitalters», страница 5

Шрифт:

Das Smartphone

Ihren (einstweiligen) Gipfelpunkt erreichte diese Revolution am 9. Januar 2007. An diesem Tag stellte Steve Jobs, der Chef des Computerherstellers Apple, der Öffentlichkeit das neueste Produkt seiner Firma vor: das «iPhone». Entgegen den Usancen der Wirtschaft, jedes neue Erzeugnis in den höchsten Tönen zu loben, stellte Jobs nüchtern fest: «Today Apple is going to reinvent the phone.»12 Und er behielt recht: Dieses Smartphone war technisch gesehen ein Wunderwerk. Die Grundausstattung umfasste bereits ein Musikabspielgerät (iPod), Telefon, Internet und E-Mail. Durch weitere schon eingebaute oder später herunterladbare Apps konnten Medien wie Fernsehen, Spielfilme, Computerspiele, eine leistungsfähige Kamera, GPS-Navigation und tausenderlei andere Funktionen hinzugefügt werden.13

Kurzum: Sämtliche gängigen Digitalmedien waren hier in einem einzigen Gerät vereinigt und ließen sich durch eine neu entwickelte berührungsempfindliche Bildschirmoberfläche (Touchscreen) genial einfach dirigieren. Noch dazu war das Gerät leicht und formschön, passte in jede Hosentasche und verführte als ständiger Begleiter im Alltag zur Dauernutzung. Bis November 2018 hatte Apple davon mehr als 2,2 Milliarden verkauft, in immer wieder neuen Modellen und Variationen. Damit waren die Maßstäbe gesetzt für alle nachfolgenden Anbieter, wie etwa Samsung und Huawei, die nur durch vergleichbare Angebote auf dem boomenden Markt bestehen konnten.

Die Milliarden von Smartphones, die innerhalb von rund 10 Jahren weltweit von den drei Anbietern verkauft wurden (allein im Jahr 2018 waren es in Summe 1,4 Milliarden14) lassen erahnen, in welch gewaltigem Maße sich die Menschheit mit diesem Gerät verbunden hat. Kaum eingeführt, wurde es zum Lieblingsgerät der heutigen Welt.

Künstliche Intelligenz (KI) 15

Im Zuge der Computerentwicklung entstand eine zweite Gattung von Computern, die inzwischen in immer mehr Bereichen zum Einsatz kommen. Im Gegensatz zu den herkömmlichen Rechnern, die den logischen Strukturen des Denkens nachgebildet sind, werden hier die biologischen Vorgänge imitiert, die im Gehirn beim Denken stattfinden (was zu der populären, aber sachlich falschen Meinung führte, diese Computer könnten «denken».) Nach dem Vorbild der neuronalen Netzwerke des menschlichen Gehirns bestehen sie aus elektronischen Netzwerken mit einer Vielzahl künstlicher Neurone, von denen jedes mit Hunderten anderen verschaltet ist.

Diese Netzwerke werden nicht mehr vom Menschen programmiert, sondern darauf trainiert, gewisse Aufgaben selbstständig erfüllen zu können. Eine Aufgabe kann z.B. sein, aus unzähligen Porträtfotos ein ganz bestimmtes Gesicht, das gesucht wird, herauszufinden. Millionen von Trainingseinheiten sind notwendig, bis das Netzwerk sich dem gesetzten Ziel angenähert hat.

Der springende Punkt dabei ist, dass diese «Künstliche Intelligenz» ihre Arbeit im Wesentlichen unabhängig vom Menschen verrichtet, indem sie ständig «dazulernt», womit suggeriert wird, es handele sich um einen kognitiven Vorgang. Edwin Hübner schreibt dazu:

«In ein neuronales Netz ist zwar außerordentlich viel menschliche Intelligenz eingeflossen, aber sie ist in ihm erstarrt. Ein neuronales Netzwerk besitzt deshalb keine eigenständige Intelligenz. Es ist weder dumm noch klug, noch entscheidet es irgendetwas, das sind schlichtweg Begriffe, die auf dieses Gerät nicht anwendbar sind. Eine Mausefalle ist auch nicht klug, nur weil sie genau dann zuschnappt, wenn die Maus den Käse frisst. Die sogenannte Künstliche Intelligenz ist zwar durch menschliches Denken intelligent gemacht, aber sie denkt nicht selbst.»16

Ein böses Erwachen

Es ist nicht zu verkennen: Über alle Erdteile hinweg wurde die «schöne neue Welt» der Medien freudig begrüßt und dauerhaft in den Alltag integriert. Ein Leben ohne die unerschöpfliche Fülle der abrufbaren Informationen, der Spiel- und Unterhaltungsmöglichkeiten, aber auch der Gesprächsforen in den Social Media, konnten sich die meisten schon bald nicht mehr vorstellen. Dazu kamen zahllose Annehmlichkeiten, wie z.B. sich von dem Universalgerät Smartphone navigieren zu lassen, Schnappschüsse oder Videos sofort an Freunde und Verwandte zu schicken, statt Fahrkarten und Kreditkarten einfach das Handy vorzuzeigen – das und vieles mehr trug und trägt dazu bei, das Publikum bei Laune zu halten.

Zwar gab es im Laufe der Jahre immer wieder einzelne Wissenschaftler, Pädagogen, Ärzte und engagierte Gruppen, die mit guten Gründen vor gefährlichen Fehlentwicklungen warnten. Doch sie wurden in der Regel als weltfremde Spinner abgetan, als Fortschrittsbremser und Technikfeinde diffamiert oder als naive Gesundheitsapostel verspottet. Wenn hingegen deren Argumente in den sozialen Netzwerken anfingen Gehör zu finden, dann wussten große Konzerne ihre Interessen zu schützen, indem sie die öffentliche Meinungsbildung auf vielerlei Weise manipulierten und die Kritiker damit niederbügelten – und schon war die hochglanzpolierte Oberfläche der schönen neuen Welt wieder hergestellt.

Dieser Zustand währte viele Jahre lang. Das Blatt begann sich erst zu wenden, als der Amerikaner Edward Snowden, ein ehemaliger CIA-Mitarbeiter, nach seiner Flucht nach Hongkong im Sommer 2013 hochgeheime Dokumente des US-Geheimdienstes NSA veröffentlichte, zu denen er als IT-Mitarbeiter in einem NSA-Büro auf Hawaii Zugang gehabt hatte. Daraus erfuhr die Öffentlichkeit erstmals von den amerikanischen und britischen Geheimdienstprogrammen zur Überwachung der gesamten weltweiten Internetkommunikation. Das Ausmaß der Spionagepraktiken, das Snowden mit reichem Datenmaterial belegen konnte, war für die Öffentlichkeit schockierend. Gleichwohl blieben die Reaktionen der internationalen Politik außer in Deutschland sehr verhalten.

Und doch: Das Misstrauen war geweckt, der wunde Punkt erkannt, und so versprachen die Konzerne Google, Microsoft und Apple neue Verschlüsselungstechniken, um die Daten ihrer Kunden besser zu schützen. Das aber war ein scheinheiliges Manöver, um von der eigenen Spionage abzulenken. Denn diese drei digitalen Großkonzerne verdienen ihr Geld – wie viele andere Firmen auch – mit Werbung. Genauer gesagt: mit personalisierter Werbung, die auf den einzelnen Kunden und seine speziellen Bedürfnisse abgestimmt ist. Dazu brauchen die Konzerne jede Menge Daten zum Kaufverhalten etc., und die holen sie sich vom Smartphone des Nutzers, ohne dass er es merkt.

Überwachungskapitalismus und Enteignung der Menschenrechte

Wie das in der Praxis konkret abläuft, demonstrierte die Süddeutsche Zeitung (SZ) 2019 durch ein kleines Experiment: Eine Münchnerin (Tarnname: Maria Brandl) erlaubte dem Team der SZ, einen Tag lang den Datenverkehr ihres ganz normalen Smartphones mitzulesen, zu speichern und zu analysieren. Beobachtet wurde vor allem, wie viele Informationen von dem Smartphone ständig an Empfänger im Hintergrund abflossen und an welche und wie diese Informationen zu Geld gemacht wurden. Hier zwei Beispiele aus dem Bericht:17

«In der App von Tchibo sieht Maria Brandl sich Campingzubehör an. Von diesem Interesse erfährt in diesem Moment aber nicht nur Tchibo. Die Information geht auch an Google. (…) In der Datenindustrie heißt dieser Vorgang ‹third party tracking›, Dritte verfolgen, was Menschen online so treiben. In diesem Falle ist dies der kalifornische Konzern. Er betreibt den Analysedienst Google Analytics. Millionen Websites und Apps integrieren diesen Dienst. Er ermöglicht es ihnen, nachzuvollziehen, worauf ein Nutzer klickt, wie lange er in der Anwendung bleibt, und vieles mehr. (…) Auch Adjust, ein Berliner Unternehmen, erfährt von Brandls Camping-Vorlieben. Dabei bleibt es nicht. Adjust und Google erhalten zudem eine Nummer, die die Münchnerin eindeutig identifiziert, vergleichbar mit einer Steuernummer. Die Analyse des Datenverkehrs von Maria Brandls Smartphone ergab, dass die meisten ihrer Apps diese Nummer auslesen und übertragen.»

Maria Brandl sieht sich in einem Onlineshop für Naturkosmetik um, klickt auf ein Shampoo. Ihre Bewegungen auf der Seite werden im Hintergrund beobachtet – von Facebook, Google und einem Dienst namens Hotjar. Hotjar kann aufzeichnen, wie sie sich auf der Website verhält, worauf sie tippt, sogar welche Bewegungen ihr Finger auf dem Bildschirm macht. Der Betreiber des Onlineshops kann dann eine Art Video ansehen, wie sich seine Kunden durch den digitalen Laden bewegen. Die Kunden erfahren davon nichts.

Die SZ zitierte dazu die ehemalige Harvard-Professorin Shoshana Zuboff. Sie prägte für dieses Geschäftsmodell den Begriff des «Überwachungskapitalismus», der einer «parasitären ökonomischen Logik» folge und zu einer «Enteignung kritischer Menschenrechte» führe. Die SZ gab abschließend zu bedenken: «Das Problem ist nur: Dieses System hat den Alltag von Millionen Menschen durchdrungen, weil seine Dienste das Leben leichter machen.» Wie sich das Problem lösen ließe, dazu schwieg der Berichterstatter.

Internetnutzer in der Skinner-Box

Das Geschäftsmodell der Firma Facebook erwies sich auch noch in einer anderen Hinsicht als ethisch fragwürdig, um nicht zu sagen: verwerflich. Sean Parker, Gründungspräsident der Firma, Start-up-Investor und enger Berater von Mark Zuckerberg in der Anfangszeit, erklärte im November 2017:

«Die Motivation bei der Entwicklung der frühen Applikationen – und Facebook war die erste – war: Wie können wir so viel Zeit und Aufmerksamkeit der Nutzer wie möglich bekommen. Das bedeutete, dass wir einen regelmäßigen Dopaminausstoß triggern mussten, weil jemand ein Bild oder Post likte oder kommentierte. Das führte dazu, dass mehr Leute mehr Content lieferten, die wiederum mehr Likes und Kommentare erzeugten. Facebook ist eine soziale Bestätigungsmaschine, genau die Sache, die ein Hacker wie ich entwerfen würde, weil es sich die Verletzlichkeit der menschlichen Psyche zunutze macht. Die Erfinder – ich, Mark Zuckerberg und Kevin Systrom bei Instagram – haben das verstanden. Und wir haben es trotzdem gemacht. (…) Nur Gott weiß, was es mit den Gehirnen unserer Kinder anrichtet.»18

Einen Monat später bekannte Chamath Palihapitiya, der ab 2007 verantwortlicher Manager für das Nutzerwachstum des sozialen Netzwerks war, dass er durch seine Beteiligung «unendliche Schuld» auf sich geladen habe. Er warf Facebook vor, das menschliche Verlangen nach Feedback und Bestätigung auszubeuten. Die durch die eingebauten «Likes» erzeugte Dopaminausschüttung im Gehirn bringe die Nutzer dazu, immer wieder und wieder diese Bestätigung zu suchen und dabei den Bezug zur Realität zu verlieren. Das Funktionieren der Gesellschaft werde zerstört, denn durch die Pseudo-Interaktion auf die geposteten Inhalte finde kein ziviler Diskurs und keine Kooperation mehr statt; stattdessen dominierten Falschinformation und Unwahrheiten. «Wenn du das Biest fütterst, wird es dich zerstören.» Er habe seinen Kindern verboten, «diesen Scheiß» zu benutzen.19

Es hätte dieser freimütigen Selbstbezichtigungen nicht bedurft, um schon längst zu wissen, dass alle privaten Anbieter im Medienbereich wegen der unverzichtbaren Werbeeinnahmen existenziell darauf angewiesen sind, mit ihren Angeboten den Nutzer möglichst lange am Bildschirm festzuhalten, und dass sie dafür alle erdenklichen Tricks einsetzen. Solange zwischen Nutzer und Bildschirm keine Interaktion möglich war, kam es auf die Musik und starke Bildeindrücke an, z.B. durch Aggression und Sex. Sobald aber die fortgeschrittene Computertechnik die Interaktion möglich machte, konnten die Produzenten weit wirksamere Mittel einsetzen, um den Nutzer an sich zu binden. Eines davon sind die oben angedeuteten Feedback-Schleifen, die das dopamingesteuerte «Belohnungssystem» im Gehirn stimulieren. Der bei ehrlicher Selbstbeobachtung schon früher spürbare Sog des Bildschirms, dem man nur schwer widersteht, wurde dadurch auf eine neue Stufe gehoben, die tief in die Physiologie des Gehirns eingreift und nichts Geringeres darstellt als eine Konditionierung zur Sucht, ohne dass der Nutzer dazu sein Einverständnis gegeben hätte. Absichtliche Förderung einer Sucht bedeutet aber de facto Freiheitsberaubung, und sie ist umso heimtückischer, als der Nutzer sich dessen gar nicht bewusst ist, sondern sich im Gegenteil für völlig frei und unbeeinflusst hält.

Während des Siegeszugs der elektronischen Medien nach 1945 wurde deren Suchtpotenzial vehement bestritten und als Panikmache gebrandmarkt. Nach der Jahrtausendwende indessen waren die aufkommenden Suchtphänomene nicht mehr zu leugnen, und ab etwa 2015 richtete auch das Bundesministerium für Gesundheit seinen Fokus darauf. In seinem Bericht hieß es damals noch vorsichtig: «Viele Jugendliche und Erwachsene zeigen bereits heute Anzeichen einer Medienabhängigkeit. Computerspielsucht oder Internetabhängigkeiten werden zunehmend thematisiert.»20 Zwei Jahre später lautete der Bericht:

«Die Zahlen internetabhängiger Jugendlicher und junger Erwachsener steigen rasant – mittlerweile gehen Experten von etwa 600.000 Internetabhängigen und 2,5 Millionen problematischen Nutzern in Deutschland aus.»21

Gleichzeitig ergab eine Online-Studie von ARD und ZDF, dass in Deutschland 90 Prozent der Gesamtbevölkerung täglich das Internet nutzen, wobei die Altersgruppe 12 bis 25 Jahre im Schnitt pro Woche 22 Stunden online unterwegs sei.22 2018 wurde die Computerspielsucht von der Weltgesundheitsorganisation WHO in die Internationale Klassifikation der Krankheiten (ICD) aufgenommen. 2019 folgte die Online-Spielsucht, mit weiteren Einträgen ist zu rechnen.

Allerdings ist es nicht so, dass sich die Öffentlichkeit von solchen Nachrichten sonderlich beeindruckt gezeigt hätte. Unbehelligt von Protesten pries beispielsweise im Silicon Valley das Startup Dopamine Labs noch Ende 2017 seine neue Software an mit dem Satz: «Macht Ihre App noch suchterzeugender.»23 Das Produkt war nach B. F. Skinner benannt, jenem berühmten Forscher, dem es gelungen war, in einem speziellen Käfig (genannt Skinner-Box) Ratten durch Futterbelohnung zu einem bestimmten Verhalten zu konditionieren. – Menschen wie Ratten ködern und dressieren, um sie dann auszubeuten? Drastischer hätte der Hohn auf jegliche Humanität kaum mehr ausfallen können.

Dieses Menschenbild erinnert fatal an den Zukunftsroman Brave New World, in welchem Aldous Huxley 1932 eine durch und durch konditionierte Gesellschaft beschrieb, in der es im Jahre 2540 n. Chr. kein kritisches Denken und keine Entscheidungsfreiheit mehr gibt. Sind wir im 21. Jahrhundert mit unserer «schönen neuen Welt» schon auf dem Wege dorthin?

Milliarden Menschen in den Fängen der Suchtmaschinen

Adam Alter, seines Zeichens Professor für Marketing an der Stern School of Business der New York University, ist in den USA als Bestsellerautor bekannt. Er hat 2017 ein Buch herausgebracht (2018 auf Deutsch erschienen), das nüchtern und schonungslos die Situation beleuchtet, in die sich die moderne Menschheit manövriert hat. Aus seinen aufschlussreichen Recherchen in den USA sollen hier einige Passagen wiedergegeben werden, in denen u.a. auch führende Köpfe des Silicon Valley zu Wort kommen:

«Walter Isaacson, der während der Recherchen zu seiner Steve-Jobs-Biografie oft mit Jobs’ Familie zu Abend saß, verriet Bilton: ‹Ich habe die Kinder nie mit einem iPad oder einem Computer gesehen. Sie wirkten von technischen Geräten jeder Art ganz und gar unbeeindruckt.› Es schien so, als würden die Menschen, die Hightech-Produkte herstellen, die Grundregel aller Drogendealer beherzigen: Never get high on your own supply (so Michelle Pfeiffer in Scarface – Nimm nie selbst die Drogen, die du verkaufst.) (…) Viele Experten, sowohl innerhalb als auch außerhalb der Hightech-Welt, haben ähnliche Entscheidungen getroffen. Mehrere Spieledesigner erzählten mir, sie würden das extrem schnell süchtig machende Online-Spiel World of Warcraft tunlichst vermeiden. (S. 10)

Greg Hochmuth, einer der Instagram-Gründer, begriff schnell, dass er eine Suchtmaschine baute. ‹Immer findet man einen weiteren Hashtag, auf den man klicken könnte›, sagte Hochmuth. ‹Und dann entwickelt sich wie bei einem Organismus ein hashtaggetriebenes Eigenleben, das Menschen obsessiv macht.› Instagram ist, wie so viele Social-Media-Plattformen, bodenlos. Die Timeline von Facebook ist endlos; Netflix startet die nächste Folge einer Serie automatisch; Tinder ermutigt seine Nutzer, auf der Suche nach immer besseren Partner-Optionen weiterzuklicken. Nutzer profitieren zwar von diesen Apps und Websites, tun sich aber schwer damit, sie nur in Maßen zu benutzen. Der ‹Design-Ethiker› Tristan Harris glaubt, dies liege nicht an mangelnder Willenskraft, doch kämpfe man gegen ‹ein ganzes Heer auf der anderen Seite des Bildschirms, dessen Job einzig darin besteht, jegliche Selbstdisziplin zu unterminieren›. (S. 11)

Die Leute, die Hightech-Geräte, Computerspiele und interaktive Erlebnisse entwickeln und verfeinern, sind sehr gut in dem, was sie tun. Sie führen Tausende Tests mit Millionen von Nutzern durch, nur um herauszufinden, welche Feinjustierungen gut funktionieren und welche nicht – welche Hintergrundfarben, Schrifttypen und Töne maximale Hingabe bei minimaler Frustration versprechen. Wird eine solche Erfahrung immer weiterentwickelt, entsteht schließlich eine unwiderstehliche, hochexplosive Version jener Erfahrung, die sie einst war. 2004 war Facebook Spaß, 2016 ist das Netzwerk eine Droge. (S. 13)

Die meisten Menschen verbringen zwischen einer und vier Stunden täglich an ihrem Smartphone – doch viele weitaus mehr Zeit. Es handelt sich hier also nicht um das Problem einer Minderheit. (…) Sie verbringen im Schnitt ein Viertel ihrer Wachzeit mit ihren Telefonen – so viel wie sonst mit keiner der täglichen Routinen, Schlafen einmal ausgenommen. Jeden Monat gehen fast hundert Stunden für E-Mails-Checken, SMS-Schreiben, Spiele-Spielen, im Internet surfen, das Lesen von Nachrichten, Überprüfen von Bankkonten und so weiter verloren. Bei durchschnittlicher Lebenserwartung addiert sich dies auf niederschmetternde elf Jahre. Im Schnitt nahmen sie ihr Telefon etwa dreimal pro Stunde in die Hand. Diese Form der extremen Nutzung ist so verbreitet, dass Forscher den Begriff der ‹Nomophobie› geprägt haben: der Angst, ohne Mobiltelefon dazustehen (nach der Abkürzung für no-mobilephobia). Smartphones stehlen unsere Zeit, und schon ihre reine Gegenwart ist schädlich.» (S. 22f.)

Was ist der Preis, den ich zu zahlen habe?

Das sind erschreckende Fakten, die uns erkennen lassen: Wir sind offenbar nicht klüger geworden, als es die Trojaner vor drei Jahrtausenden waren, die alle Warnungen in den Wind schlugen und siegesberauscht das verderbenbringende hölzerne Pferd in ihre Stadt zogen. Auch bei uns fehlte es nicht an ernst zu nehmenden Warnungen, und doch wurde die «schöne neue Welt» der Medien gefeiert und bedenkenlos in den privaten Alltag aufgenommen. Anders als in Troja tötet sie nicht, bedroht aber die seelische Gesundheit von Millionen Menschen und könnte sogar, wie es der Facebook-Manager Chamath Palihapitiya schon andeutete, den Zusammenhalt unserer Gesellschaft zerstören.

Was in der Antike das Trojanische Pferd symbolisierte, nämlich das tragische Verkennen einer tödlichen Gefahr, das wurde Jahrtausende später zum Eingangsmotiv einer Dichtung, die uns Heutigen geradezu auf den Leib geschrieben zu sein scheint. Auch in diesem Werk hängt das Wohl oder Wehe des Menschen von dem rechtzeitigen Erkennen oder Verkennen der feindlichen Macht ab. Die Rede ist von Goethes Faust, dem Menschheitsdrama der Neuzeit schlechthin. Mephisto versucht dort, Faust zu ködern mit dem untertänigsten Angebot, ihm auf der Stelle jede erdenkliche Annehmlichkeit, jedes ersehnte Abenteuer und jedes irdische Glück herbeizuschaffen. Faust aber, obwohl noch ein Bürger des Mittelalters, bekreuzigt sich nicht gegen den Versucher und lehnt einfach ab, sondern stellt die entscheidende Frage, die auch der Mensch des 20. Jahrhunderts unbedingt hätte stellen müssen: Was ist der Preis, den ich dafür zu zahlen habe?

Mephisto vermeidet eine klare Antwort und versucht den Anschein zu erwecken, dass alles kostenlos sei, trifft aber bei Faust auf einen erfahrenen Forscher, der hinter dem sinnlichen Schein der Gestalt, die vor ihm steht, dessen übersinnliche Realität erkennt. Auf sein Drängen muss Mephisto zugeben, dass doch ein Preis zu zahlen ist: Er verlangt Fausts Seele nach dem Tode. Das unvergängliche Selbst des freien Menschen soll also eingetauscht werden gegen flüchtige irdische Genüsse.

Hochbedeutsam ist nun die Tatsache, dass Faust nicht bereit ist, diesen Preis zu zahlen, gleichwohl aber nicht auf Mephistos Dienste verzichten möchte. Entgegen der mittelalterlichen Tradition wählt er daher einen völlig neuen, unerhörten Weg: Er schließt keinen Vertrag mit Mephisto, sondern eine Wette, deren Ausgang bis zum Tode offenbleibt. Und worum wird gewettet? Um die Fähigkeit des Menschen, ständig in Entwicklung zu sein, immer wieder neue Schritte zu höheren Zielen zu gehen, ohne sich auf dem Erreichten auszuruhen. Faust geht also dem Bösen nicht aus dem Wege, sondern lässt sich auf ein lebenslanges Ringen mit ihm ein, bei dem er sein Menschsein nur dadurch retten kann, dass er sich selbst ständig weiterentwickelt.

Darin dürfte der entscheidende Wink liegen für den modernen Menschen, der mit den Gegenmächten zu ringen hat. Denn es geht nicht um Technikfeindlichkeit, sondern um die begründete Sorge, dass uns die Autonomie und die Freiheit des Individuums abhandenkommen. Die entscheidende Frage lautet: Sind wir noch Herr über das von uns selbst geschaffene digitale Reich? Oder ergeht es uns wie Goethes Zauberlehrling, der die Geister, die er rief, nicht zu beherrschen weiß und in die Katastrophe stolpert? Wo soll der «alte Meister», der in Goethes Gedicht in höchster Not die Rettung bringt, heute zu finden sein, falls die Träume vom Achten Schöpfungstag platzen?

2 015,82 ₽
Возрастное ограничение:
0+
Объем:
354 стр. 25 иллюстраций
ISBN:
9783772543562
Издатель:
Правообладатель:
Bookwire
Формат скачивания:
epub, fb2, fb3, ios.epub, mobi, pdf, txt, zip

С этой книгой читают