Søren in Norwegen

Ihr, meine lieben Leserinnen und Leser, erinnert euch mglw. an diesen Schnullibulli von vor ueber 10 Jahren.

Nun ja … da kam vor einer Weile noch Schnullibulli Teil 2 dazu:

Mit ’nem Dr. rer. nat. und nem Dr. ing. (auch wenn Letzterer nicht direkt spezifiziert ist im Englischen) ist’s nun aber wirklich genug mit dem ganzen Quatsch!

Das Bild von gestern ist natuerlich manipuliert. Aber mitnichten so sehr wie man erstmal denkt. Dem Original …

Author: unbekannt, Lizenz: unbekannt … Dazu sagte ich ja beim letzten Mal schon was. Ich habe es hierher: Quelle.

… wurden nur ein paar Schatten hinzugefuegt, die Beine etwas retuschiert und auf“s Wasser ein paar Kringel gemalt. So wenige Sachen trickst unser Gehirn bereits dahin, die Perspektive (und damit die Grøszenverhaenltnisse) als ganz anders wahrzunehmen, selbst wenn am Hauptelement des Bildes gar nix veraendert wurde.

Hierbei handelt es sich uebrigens um einen (mehr oder weniger) frisch geschluepften Kanadareiher.
Interessant ist, dass die Manipulation dieses Bildes durchaus ausdrueckt, dass wir (als Gesellschaft und als Individuen) ca. 25 Jahre nachdem Jurassic Park im Kino kam, mehr und mehr akzeptieren, dass Dinosaurier Federn hatten und dass Vøgel die weiterentwickelten Dinos sind. Aber so ist das nunmal mit dem Fortschritt (wenn auch nur im Kleinen wie hier). Nur weil Wissenschaftler ’ne Sache schon lange wissen und akzeptieren, heiszt das noch lange nicht, dass das auch bei allen anderen Menschen angekommen ist.

Aus Interesse habe ich mal ein animiertes PNG erstellt, welches die (Geringfuegigkeit der) Manipulation (und deren Einfluss) sichtbarer macht als zwei statische Bilder:

Und zum Abschluss verdeutlicht dieser eher … mhm … auch wenn man kein Blut sieht, sag ich jetzt mal dieser eher blutige Videoschnipsel nochmals die Verwandtschaft zwischen dem wie wir denken, dass sich (kleinere) Raubsaurier verhalten haben und wie sich (manche) Vøgel verhalten.

Der Beweis:

Author: unbekannt, Lizenz: unbekannt … Trotz Suche habe ich das echt nicht rausfinden kønnen … hach wie ich den allgemeinen Umgang mit Daten/Material/Ideen/etc. im Internet nicht gutheisze. Wenigstens kann ich angeben wo ICH’s herhabe: Quelle (aber das wird bestimmt auch irgendwann geløscht … *seufz*)

In kurz geht das Argument so:

[Computers] can only match the patterns they have learned, and they have limited capacity to learn more than just a few patterns. Humans are optimized for learning unlimited patterns, and then selecting the patterns we need to apply to deal with whatever situation we find ourselves in.

Der verlinkte Artikel fasst ziemlich gut einige der grøszeren bestehenden Herausforderungen diesbezueglich zusammen. Dort werden auch zwei Artikel von bzw. bzgl. Douglas Hofstadter verlinkt. Im ersten schreibt, dieser ueber die „Flachheit“ von google translate. Der zweite geht ueber seine jahrzehntelange Arbeit an sich. Beide lohnen sich zu lesen.

Aber dann ist da auch AlphaGo Zero.

The neural network initially knew nothing about Go beyond the rules. […] [it] only perceived the board’s stones, rather than having some rare human-programmed edge cases to help recognize unusual Go board positions. The AI […] [played] against itself until it could anticipate its own moves and how those moves would affect the game’s outcome.

Das was oben steht ist (mindestens heutzutage), im Allgemeinen richtig. Aber AlphaGo Zero hat von alleine Strategien erlernt wie man Go gewinnt. Und zwar nicht nur gegen einen anderen „dummen“ Computer, sondern gegen menschliche Meisterspieler. Und bereits die Vorgaengerversion hat Strategien gefunden, die in tausenden von Jahren, wer weisz wie viele Spieler und Meisterspieler die Go in-und-auswendig konnten und kannten und im Detail analysiert hatten, nicht gefunden haben!

Und Strategien sind nichts anderes als abstrakte Konzepte.
Sicherlich! Dieses Beispiel ist domaenenspezfisch, aber wenn man Erfahrung in genug Domaenen zusammen nimmt, hat man etwas, was mehr und mehr dem menschlichen Gehirn gleicht, aber dennoch ganz anders ist.
Voll spannend! Und der Mangel an Fantasie sollte uns nicht verfuehren zu glauben, dass das niemals passieren wird.

[…] understanding the surrounding scenes is not merely a task of image classification or object recognition. To perform actual tasks, it is critical for the robot to have a functional understanding of the visual scene.

Dieses Zitat ist aus dem Artikel „What can i do around here? Deep functional scene understanding for cognitive robots“ (*hust*) von Ye, C. et al. in 2017 IEEE International Conference on Robotics and Automation (ICRA), Singapore, 2017, pp. 4604–4611.

Diese beiden Aussagen druecken das aus, was die meisten Menschen vom Potential der Roboter halten. Mich duenkt insbesondere diejenigen, die von sich denken, dass sie informiert waeren.
Oder anders: „Jaja, Bilderkennung geht ja mittlerweile doch schon manchmal, aber das ist nicht relevant … und schon gar nicht fuer mich persønlich (!) … denn wenn das Bild nur ein bisschen anders ist, dann wird das Buttermesser als Elefant kategorisiert und mit ’nem Elefanten kann man kein Brot schmieren.“
Und das stimmt. Das ist ein ganz groszes Problem, wenn immer mehr Aufgaben von Robotern uebernommen werden. Ein Butterbrot illustriert die Schwere dieses Problems nicht, aber Geschichten davon, dass man bspw. keinen Kredit bekommt, weil man im falschen Stadtteil wohnt, oder dass man als potentieller Krimineller eingestuft wird, blosz weil man die falsche Hautfarbe hat, sind ja bekannt. Auch DIES ist nicht falsch zu verstehen, denn solche Sachen passierten lange bevor es Computer gab und passieren auch heute noch, selbst wenn keine Computer in den Entscheidungen involviert sind.
Worauf ich hinaus will, ich gebe den Kritikern durchaus recht. Gleichzeitig meine ich aber auch, dass dies eine Kopf-in-den-Sand-Methode ist. Die Menschheit arbeitet an diesem harten Problem und im oben zitierten Artikel sind die Autoren schon ein gutes Stueck voran gekommen.

Dort werden Kuechen als komplexe und interaktive Szenen genommen. Ein Beispiel fuer funktionelles Verstehen ist

[…] a round knoblike object indicates that an action of spherical grasping and perhaps turning could be applied to it […].

Und als Menschen erkennen wir …

[…] such functional areas in our daily environments with vision, so we can perform different actions and tasks.

Da muss man erstmal drauf kommen. Hørt sich leicht an, aber wir machen das ueberhaupt nicht bewusst. Wo ist der Unterschied zwischen einer Schuessel und einer Bratpfanne? Ist das Øffnen der Mikrowelle in der selben Aktionskategorie wie das Øffnen des Besteckfachs? Warum ist mein Gehirn ueberhaupt nicht damit beschaeftigt das auseinander zu klamuesern sondern macht das einfach? Nun ja, streng genommen klamuesert mein Gehirn das auseinander, aber das geschieht eben automatisch und unterbewusst nachdem wir das gelernt haben.

Und die Autoren des Artikels haben sich daran gemacht und versucht einem Computer beizubringen unterschiedliche Objekte in einer Kueche funktional zu erkennen.

Ihr bestes Modell hat Zeug zwar in nur ca. 32 % aller Faelle den richtigen Kategorien zuordnen kønnen, aber bei der Vielzahl von verschiedenen Aktionskategorien in einer Kueche, finde ich das schon bemerkenswert. So bemerkenswert, dass ich besagte Kopf-in-den-Sand-Strategie fuer all zu gefaehrlich halte. Natuerlich sind Resultate wie …

[…] a bulb […] is recognized as a “spherical grasp to open” functional area […]

… eine Bestaetigung genau dessen was ich oben schrieb. Aber wenn man bedenkt, dass …

[…] the bulb [was] not labeled with any specific functionality in the training data

… dann ist das kein Fehlschlag, sondern ein Erfolg! Genauso wie Kinder die Sandkuchen essen kein Fehlschlag sind, sondern nur eine von der Evolution als (meistens) erfolgreich erkannte und erprobte Strategie anwenden um zu lernen. Und trotz des Fehlschlags (Sand ist schlieszlich objektiv nicht essbar) erlauben wir den jungen Menschen nach ein paar Jahren Kuechenchef zu werden, Auto zu fahren oder neuen jungen Menschen Dinge beizubringen.

Und auf der Stufe sind (trainierte) Computer — Kleinkinder … und die werden auch mal grosz und kønnen dann alles was auch wir kønnen. Toll wa!

Vor einiger Zeit kaufte ich mir eine Playstation 4. Am Anfang ist die noch ganz jungfraeulich. Trotz lanjaehrigen Zockens (das muesste ich auch mal aktualisieren) auf der Playstation 3 wurde ich (verstaendlicherweise) so begrueszt:

Und als ich mir meine Pokale anschauen wollte wurde mir gesagt:

Gut zu wissen.

Zum Glueck (???) sind meine Pokale „auf dem Server“ gespeichert. Die Information konnte also schwuppdiwupps runtergeladen werden und dann war mein System auf dem aktuellen Stand.
Ich fand das ein bisschen witzig, denn „0 Trophies“ sehe ich nicht so oft.

Høhø! Voll lustig so’n Markow-Ketten-Generator. Sieht man doch wohl voll, dass das totaler Murks wird, wenn das naechste Wort nach einer Wahrscheinlichkeit berechnet wird.
Diese Domaene ist den Menschen vorbehalten, denn laengere, zusammenhaengende Texte zu schreiben erfordert ein ordentliches Textverstaendnis.

Nun ja, der heisze Scheisz ist seit ein paar Monaten GPT-3.

Hier sind etliche Beispiele fuer Dialoge, Horoskope, Gedichte, Kritiken etc. pp. zu finden.

Ganz toll ist auch, dass man GPT-3 sagen kann, dass es die Antwort in einem bestimmten Stil schreiben soll. Und dann kann man sich von Marie Curie Strahlung erklaeren lassen, H.G. Well zur Inspiration fuer seine Buecher befragen, oder Leibniz‘ Meinung bzgl. des wahren Entdeckers der Infinitesimalrechnung in Erfahrung bringen. Letzteres lohnt sich wirklich zu lesen. Aber Achtung, er hat da eine sehr spezifische Meinung und laeszt sich nicht die Butter vom Brot nehmen. Und wem das nicht reicht, der kann den Hulk fragen, warum er denn immer alles zerschmettern will.

Zur Zeit ist es noch so, dass eine Zusammenarbeit zwischen GPT-3 und einem Menschen (als Redakteur) die besten Ergebnisse liefert. Hier kann man eine Kurzgeschichte als Produkt einer solchen Kollaboration lesen.

Bei den Beispielen kønnte man ja jetzt sagen: „Ach das ist ja nur Quatsch, da ist das nicht so schlimm; richtige Informationen die auch in der Zeitung stehen sind auszer Reichweite von Maschinen“.
Ja, kønnte man sagen … aber dann empfehle ich diesen kurzen Artikel im Guardian dazu … lohnt sich zu lesen. Nicht des Inhalts, sondern der Implikationen wegen!

In dreifacher Hinsicht. Zum Einen bereitet die Botschaft eines Artikels in der New York Times mit dem Titel „The Age of Electric Cars Is Dawning Ahead of Schedule“ gute Laune. Wenn man den Ladevorgang (Wortspielkasse!) der Seite abbricht , dann kommt auch nicht dieses Dingens was einem vom Lesen des Artikels abhaelt … manchmal frage ich mich, was fuer Leute diese „Schutz“mechanismen programmieren und warum das keinem auffaellt wie leicht das zu umgehen ist. Das ist ja noch einfacher als damals, als der Spiegel seine Seiten „verschluesselt“ hat, damit die keiner lesen kann, wo die „Verschluesselung“ dann aber einfach darin bestand im HTML-Code der Seite alle Buchstaben eins nach rechts zu schieben … *lol* … das ist dann der zweite Grund fuer gute Laune … dass man den Artikel trotzdem lesen kann.

Der dritte Grund ist persønlicher Natur … ’s ist doch immer schøn, wenn man Recht hat und es dann sogar mal um eine positive Sache geht :)

Noch ’ne neue Serie bei der der Titel alles sagt.

Ich fange an mit dem Schreiben von Gags. Man kønnte das auch mehr oder weniger lustige Wortspiele, Einzeiler oder Bonmots nennen.
Die Lustigkeit (mal mehr, mal weniger) derselben beruht auf dem Unerwarteten durch Verknuepfung verschiedener Themen die so eigentlich nicht zusammen gehøren. Dazu kommt dann (sehr sehr) oft, dass noch ein anstøsziger Zusammenhang durch besagte Verknuepfung hergestellt wird. Ich sag nur Witze ueber Sex, Frauen, Minderheiten oder Sachen die man so nicht sagt und auch nicht zu sagen hat.

Dadurch dass sog. „kuenstliche Intelligenz“ aber darauf basiert dass Muster in Daten gefunden werden, ist’s gar nicht so weit hergeholt zu denken, dass „kuenstliche Intelligenz“ keine Witze schreiben kann. Denn Muster bestehen nur zwischen (mehr oder weniger) gut zusammenpassende Themen. Also das Gegenteil dessen was ich oben schrieb.

Und dann stolperte ich ueber einen Artikel von T. Winters et al. in Proceedings of the 10th International Conference on Computational Creativity, 2019, p. 274–281, mit dem Titel „Towards a General Framework for Humor Generation from Rated Examples“.
Dazu gibt es auch Code (gut gewaehltes Akronym … tihihihi) und Ergebnisse. Die computergenerierten Gags sind jetzt zwar nicht so super lustig, Einzeiler sollen das aber auch nicht sein und das ist in den Trainingsdaten nicht anders.

Die meisten Gags sind (wie erwartet) anstøszig auf eine Art und Weise, die ich hier nicht wiederholen møchte. Das sagt natuerlich mehr ueber die von Menschen gemachten Trainngsdaten als ueber den Algorithmus aus. Aber vier Beispiele der Art < X > + < Y > => < lustige Bemerkung > waeren diese:

men + turkey => roast
people + back => hurt
coffee + buildings => empty
sex + emotions => basic

Fuer ’n Siliziumwesen ohne menschliche Erfahrung und nur ’n bisschen Trainingsdaten ist das gar nicht mal so schlecht, wa!

Schon vor einer ganzen Weile wurde mir ein Artikel von A. M. Stauffer mit dem Titel „Legends of the Mummy Paper“ in Printing History (new Series) no. 8, 2010, pp. 11-16 zugespielt.
Ich erhielt den als eine Papierkopie. Faktisch sah meine Kopie sogar aus wie eine Kopie einer Papierkopie. Zu dem Zeitpunkt bemerkte ich das nicht weiter, nichtsahnend, dass dies ein deutlicher Hinweis darauf ist, wie schwer an eine digitale Kopie zu kommen ist.
Das ist so ein obskures Journal, dass deren Webseite aussieht wie vom Anfang des Jahrtausends. Und die haben nicht mal Abrisse der Artikel!
Die uebliche Quelle konnte auch nicht liefern.
Beim Autor selbst steht das zwar in der Liste seiner Publikationen, aber kein Link zu einer Preprint-Version. Da haette ich sicherlich nach einer Kopie fragen kønnen, aber das waere ja unnuetz gewesen fuer euch, meine lieben Leserinnen und Leser.
Selbst die Internetsuche nach genau diesem Titel ergab nur 6 Treffer. Aber da hatte ich endlich Glueck. Ist zwar nur der Text des Artikels, aber das ist besser als nix, nicht wahr. Ich versuche ja immer meine Quellen anzugeben, wenn ich ueber was schreibe.

Soweit zur Vorrede.

Eigentlich ging es mir aber gar nicht um den Artikel an sich.
Die Legende, dass fuer eine zeitlang in Amerika Papier aus Mumien gemacht wurde ist kurzweilig und interessant und Tante Wikipedia gibt eine gute Zusammenfassung. Zum Verstaendnis des Weiteren reicht es aus zu wissen, dass frueher Lumpen ein wichtiger Bestandteil bei der Herstellung on Papier waren. Daher war ja auch der Lumpensammler ein echter (wie so viele andere, stigmatisierter) Beruf.
Aufgrund des gewaltigen Anstiegs der Papierproduktion in der Mitte des 19. Jahrhunderts, wurden Lumpen aber knapp und da haben die Kapitalisten sich nach neuen Quellen dafuer umgeschaut. Eine davon waren Mumien.
Aber auch darum geht es mir nicht (obwohl es sich durchaus lohnt den Links zu folgen.

Vielmehr geht es mir darum, dass mich dieser Artikel (bzw. die ganze Sache) auf ein maechtiges Loch in meinem Verstaendnis des Geschichte der Menschheit aufmerksam gemacht hat.

Denn wenn ich so an „Mumien“ denke und mir dann mal ueberlege, wie viele es davon geben kønnte, so wuerde ich sagen: vermutlich ’n paar Tausend … mglw. ’n paar Zehntausend.
Aber dann las ich in besagtem Artikel dies:

[…] [19th century capitalists] looked upon mummy-paper as a reasonable possibility and pursued it–however far it was pursued–in a spirit of entrepreneurship, or strip-mining.

Wait! What?

Strip mining!???!!!

DAS hier …

Autor: Raimond Spekking, Quelle, Lizenz: CC BY-SA 4.0

… verstehe ich unter „strip mining“ … und der Rest der Welt anscheinend auch.

Wieviel Mumien gibt es, dass ueberhaupt jemand auf die Idee gekommen ist, die im Tagebau „abzubauen“?

Diese Frage irritierte mich etwas. Also setzte ich mich mal hin (im uebertragenen Sinne) und ueberlegte mal.
Ægypten hat schon etliche tausend Jahre auf dem Buckel. Auszerdem war die Nahrungsversorgung in Ægypten ueber diese Jahrtausende aeuszerst stabil. Die hatten also nicht wirklich Probleme ihre Bevølkerung auch schon vor 5000 Jahren stabil (und hoch) zu halten. Und tatsaechlich, es wird geschaetzt, dass es damals ’n paar Millionen alte Ægypter gab.

Eine Tatsache die mir aber so nicht bekannt war, ist, wie populaer es war sich mumifizieren zu lassen.
Zum Einen liegt es sicherlich daran, dass man in der Schule und im Museum immer nur die Mumien der Obrigkeit sieht. Das aber macht ueberhaupt nicht klar, dass Mumifizierung ein kompletter (sehr wichtiger) Industrizweig war und ganze Zulieferindustrien (bspw. fuer Salz zur „Entwaesserung“ des Kørpers) brauchte. Erst ein neuartiger Bildungskanal (Computerspiele) brachte mir dies mittels Assassin’s Creed Origins nahe. Ueberhaupt ist dieses Spiel ziemlich gut darin, den Alltag im alten Ægypten so genau wie es das Medium zulaeszt darzustellen.
Zum Anderen liegt der Ursprung meiner (laengst nicht vollstaendig gefuellten) Wissensschlucht bestimmt auch in dem Folgenden begruendet. Eine religiøse Herangehensweise an meine Leben geht mir total ab. Bzw. in diesem Fall die Herangehensweise an das was was nach dem Tode des Kørpers Gehirns passiert (siehe bspw. hier). Und deswegen konnte ich das auf dieser Ebene auch gar nicht verstehen, wie wichtig das fuer die alten Ægypter war, sich mumifizieren zu lassen.

Mit all diesen Informationsfetzen in der Hand, war dann die Vorstellung des „Mumientagebaus“ gar nicht mehr so weit hergeholt.

Und persønlich war ich sehr erfreut, diese Bildungsluecke geschlossen und dem Verstaendnis der Menschheit an sich wieder ein klitzekleines Stueckchen naeher gekommen zu sein :) .

Ach ja, Fasern aus Lumpen werden auch heute noch zur Papierherstellung benutzt. Insbesondere fuer Papier mit høherer Qualitaet. Aber der Anteil ist deutlich geringer als frueher (im unteren einstelligen Prozentbereich).