Der Beginn von Skynet

Dies ist ein automatisch aus dem Italienischen übersetzter Text. Wenn Sie unsere Arbeit schätzen und sie gerne in Ihrer Sprache lesen, denken Sie über eine Spende nach, damit wir sie weiterhin durchführen und verbessern können.

Die Artikel von Cassandra-Kreuzung Ich bin unter Lizenz CC BY-SA 4.0 | Cassandra-Kreuzung ist eine Spalte, die von erstellt wurde Marco Calamari mit dem „nom de plume“ von Kassandra, geboren 2005.

Wir haben kürzlich eine Reihe neuer Artikel von Cassandra zum Thema künstliche Intelligenz veröffentlicht, die Sie finden können Hier. Wir dachten, es wäre interessant, auch diese beiden Artikel aus dem Jahr 2016 zu ähnlichen Themen zu veröffentlichen.

Dieser Artikel wurde geschrieben am 22. Juni 2016 von Cassandra

Cassandra Crossing 373/ Dawn of Skynet

Vom Menschen, der die Sprache der Maschine spricht, bis zur Maschine, die den Menschen interpretiert, von Algorithmen bis zu neuronalen Netzen. Die Grenze der Forschung, des Militärs und des Marktes, ist die KI. Mit welchen Risiken?

„Aridaje, der übliche alarmistische Titel, gespickt mit einem alten Filmzitat“, werden die in den 24 Lesern enthaltenen Römer sagen. Zu Zitaten gibt es nichts zu sagen, Cassandra hat eine schlechte Angewohnheit, aber man muss zugeben, dass sie sich nie dafür geschämt hat, im Gegenteil. Nein, das ist keine alarmierende Schlagzeile. Die Forschung zur künstlichen Intelligenz (KI) hat in letzter Zeit einen Schritt nach vorne gemacht, der ebenso wichtig wie vorhersehbar ist, aber dennoch heimtückisch genug, um vielen entgangen zu sein. Und hier brauchen wir eine starke Dosis IT-Pillen, also werden mir die Sachkundigen die Vereinfachungen entschuldigen, und wenn sie wollen, springen sie zu den letzten Zeilen des Artikels, während die weniger Sachkundigen sich mit mir abfinden.

Nun ja, seit der Zeit von Charles Babbage und seiner unvollendeten Geschichte Differenzmaschine Es war sehr klar, dass automatische Computer (der Begriff „Computer“ sollte erst noch kommen) eine Reihe von Anweisungen enthalten würden, die vom „Programmierer“ erstellt wurden und denen der Computer treu und blind folgen würde, „Perinde ac cadaver“, wie ein Jesuit sagen würde.

Ah, wie sehr Cassandra die Steampunk-Welt vermisst! Aber kommen wir zurück zu uns.

Bis in die 1940er Jahre ändert sich bei Zuse und seinen Mitmenschen nichts oder fast nichts Z3, erster binärer Relaisrechner (also elektromechanisch).

In den 1950er Jahren kamen Computer mit Vakuumröhren auf den Markt Eniac, tausendmal schneller.
Aber auch der Eniac wurde „mechanisch“ programmiert, indem man elektrische Verbindungen direkt verkabelte: Die Software existierte noch nicht, und nach einigen Jahren wurden Programmiersprachen erfunden, die die Hardware endgültig von der Software trennten, und zwar nach kurzer Zeit Wir sind von Assembler (der Mensch spricht die Sprache der Maschine) zu Hochsprachen wie FORTRAN, COBOL, Lisp übergegangen ... die Liste ist endlos, aber von nun an wird es der Computer sein, der die Sprache verstehen muss Die Geschichte des Menschen endet hier, mit einem Sklaven, der die Sprache seines Herrn versteht und ihm treuer folgt als ein Neufundländer, sofern Fehler und Fehler es zulassen. Lassen Sie uns jetzt natürlich die Computer vergessen. Die Sprachen, in denen Programme geschrieben werden, sind die üblichen „Imperative“, d Um bestimmte Probleme zu lösen, die typischerweise mit der Wirtschaft zu tun haben und bei denen wir zwar wissen, wie man die Regeln schreibt, aber nicht, wie man sie in einem Algorithmus organisiert, wurden die sogenannten „Expertensysteme“ geboren: durch die Eingabe von Eingaben an einen Wenn es sich um ein Expertensystem handelt, das mit einem bestimmten Regelwerk gefüllt ist, wird dieses einem im Prinzip nicht vorhersehbaren Weg unter seinen Regeln folgen und ein Ergebnis liefern. Ein Expertensystem kann jedoch jederzeit ein „Backtracking“ durchführen und erklären, wie und in welcher Reihenfolge es die Regeln angewendet hat, um das Ergebnis zu erhalten, das jedoch immer wiederholbar ist. Für noch andere Problemklassen, bei denen nur das Problem bekannt ist, eine Reihe von Fragen mit den entsprechenden Antworten, die Regeln, die den Einsatz eines Expertensystems ermöglichen würden, jedoch nicht bekannt sind, wurden neuronale Netze erfunden Aus esoterischen Gründen wird ein bestimmter Typ eines neuronalen Netzwerks verwendet und dann „trainiert“, indem ihm Fragen mit den entsprechenden Antworten vorgelegt werden, die das neuronale Netzwerk intern in einem Datensatz ohne verständliche Bedeutung speichert. Wenn Ihnen an dieser Stelle eine Frage gestellt wird, die der Frage, mit der Sie trainiert haben, „sehr ähnlich“ ist, wird das Netzwerk „höchstwahrscheinlich“ die richtige Antwort liefern. Auch hier ist die Antwort bei gleichem Training und gleicher Frage wiederholbar, aber die Tatsache, dass das neuronale Netzwerk eine Frage, die der vorherigen sehr ähnlich ist, korrekt beantwortet, ist nicht garantiert. Wenn Ihnen beispielsweise eine Reihe von Fotos mit der Definition „Terrorist“ oder „Nicht-Terrorist“ in normalen Fähigkeiten gezeigt werden, wird das neuronale Netzwerk das Keffiyeh wahrscheinlich mit der Identität eines Terroristen assoziieren (andererseits tun das nicht viele Menschen? ) und wenn man ihr ein Foto von Bin Laden zeigen würde, der einen Strohhut und eine Pfeife trägt, würde sie sagen, er sei kein Terrorist.

Parallel dazu wird an der „Künstlichen Intelligenz“ gearbeitet. Niemand weiß, wovon genau wir sprechen, außer dem Verstorbenen (oder besser gesagt ermordet) Alan Turing, der einen Test vorschlug, der nach wie vor als Referenz dient, um zu verstehen, ob eine künstliche Intelligenz intelligent genug ist.

Diese unendliche Prämisse ist vorbei und wir kehren zu den aktuellen Ereignissen zurück. Auch wenn Menschen über Sechzig seit 40 Jahren von künstlicher Intelligenz hören und daher eine gewisse Skepsis gegenüber dem Thema entwickelt haben, etwa gegenüber der Kernfusion, so gibt es tatsächlich nur langsame Fortschritte auf dem Gebiet der KI, wenn auch gleichzeitige Fortschritte zu verschiedenen Forschungsschwerpunkten. Und inzwischen haben uns Literatur und Kino alle möglichen Beispiele dafür geliefert, was künstliche Intelligenzen sein könnten und wie sie eingesetzt werden könnten, oder besser gesagt, sich verhalten könnten.

Vom Wintermute von „Neuromancer“ zum Master Control Program von „Tron“, vom namenlosen Supercomputer von Die Antwort zu den sexy und blutrünstigen Mädchen auf der Suche nach sich selbst in „Ex-Machina“, von den schüchternen und schnulzigen Puppen aus „AI“ bis zu dem Wesen, das die Menschheit in „Terminator“ ausrottet, Skynet.

Ja, Skynet, das zu einer Art Archetyp geworden ist, um die Cassandras des Augenblicks zu necken. Nun, die Tatsache, dass es über die Gefahr, die echte künstliche Intelligenz darstellen könnte, nicht viel zu scherzen gibt, wird zunehmend ernst genommen. Warum Gefahr? Denn diejenigen, die die Entwicklungsprozesse neuer Technologien steuern, sind wie üblich das Militär, die Großindustrie und letztlich das Kapital. Das Obige ist keine politische Polemik oder Wohlfühlprosa, es ist einfach die beste prägnante und desillusionierte Beschreibung, die die arme Cassandra geben kann.

Andererseits zeichnen sich jetzt, da KI die Genomik als nächste große technologische und geschäftliche Revolution ablöst, erste Bestätigungen ab. Von dem von der US-Marine ausgestrahlten Projekt zur Automatisierung von Atomraketen-U-Booten (aber ist „Doctor Strangelove“ für das Militär verboten?) bis zum kontinuierlichen Einsatz von Robotik zur Automatisierung von Waffen, dem Weg zur Schaffung einer „böswilligen“ KI, nicht aus Versehen, sondern „by design“ ist zu einem geworden akademisches Forschungsfeld.

Sogar die Tatsache, dass eine KI rebellieren oder vielmehr den Händen ihrer Schöpfer entkommen kann, wie in den drittklassigen Pulpen der 1950er Jahre, schleicht sich objektiv in die reale Welt ein, wenn man bedenkt, dass es Forscher gibt, die nicht wissen, wie man baut KI, an der ernsthaft gearbeitet wird Lassen Sie die KI von heute eine bessere KI aufbauen.Die Forschung ist tatsächlich in einst undenkbaren Bereichen aktiv. Und welche Konsequenzen könnte das haben?

Lassen Sie uns eine Parallele zu den Tests von Malware-Entwicklern ziehen, die auf „experimentelle“ Weise veröffentlicht wurden, zInternetwürmer von Morris, SQL-Slammer oder das allerneueste Eisentor, ein kosmopolitischerer Verwandter von Stuxnet, die erste Cyberwaffe, die gegen einen echten Gegner abgeworfen wurde. Das Irongate-Experiment stellt wahrscheinlich die Malware-Brücke zum Internet der Dinge und zum industriellen Internet dar.

Wussten Sie, dass Morris offenbar nur die Größe des Internets messen wollte, als er seinen Wurm veröffentlichte? Und dass das SQLSlammer-Experiment nicht zu weiteren Entwicklungen geführt hat? Während sich viele Insider große Sorgen darüber machen, was Irongate bedeutet, also ein Test für zukünftige Angriffe auf das Internet der Dinge? Aber heute legen wir das Thema Malware (widerwillig) beiseite, denn was uns interessiert, ist die Erinnerung an die schändlichen Ergebnisse und Gefahren, die durch „Experimente“ von begeisterten Technikern entstehen.

Also lasst uns ganz schnell fertig werden. Was kommt Ihnen dazu in den Sinn, wenn künstliche Intelligenzen von anderen künstlichen Intelligenzen programmiert werden und ein CEO oder ein General hinter Ihnen steht, der Sie aus edlen Gründen ermutigt, etwa mit Unternehmensdividenden oder dem Kampf gegen die Bösewichte? Genau.

Dieser Artikel wurde geschrieben am 19. Juli 2016 von Cassandra

Cassandra Crossing 375/ Drei Schritte ins Delirium: von der KI zu Skynet

Sogar Propheten sind wählerisch, und da das Skynet-Schlagwort auf diesen Seiten inzwischen häufig vorkommt und sogar einige der 24 fundamentalistischen Leser begonnen haben, sich zu beschweren, lasst uns sofort das „i“ setzen und uns dabei offensichtlich auf den Artikel über die KIs beziehen, die und erschaffen Trainiere andere KIs.

Cassandra wurde ausdrücklich vorgeworfen, dass sie nun in den Überfluss an Skynet- und Terminator-Referenzen verfallen sei; Von vielen Seiten kamen Vorschläge, dem ein Ende zu setzen. Um sie gebührend zu berücksichtigen, muss klargestellt werden, dass das Ertragen von Cassandras filmischen Zitaten und anderen sprachlich-narrativen Eigenheiten der Preis ist, den man zahlen muss, um sie lesen zu können. Heute wird sich Cassandra nicht darauf beschränken, das überstrapazierte, aber immer sehr gültige Zitat von Skynet zu wiederholen, sondern sogar ein neues hinzufügen, nämlich das von Drei Schritte ins Delirium, ein alter und ausgezeichneter episodischer Mysteryfilm, inspiriert von Geschichten von Edgar Allan Poe und unter der Regie von Roger Vadim, Louis Malle und Federico Fellini.

Cassandra wird sich den Titel nur leihen, um kurz den Weg zu beschreiben, der zu etwas führen wird, das Skynet gleichwertig ist, und umreißt den Weg und die Ereignisse, die die grundlegenden Etappen markieren werden.

Nun, für diesen „Wahnsinn in drei Schritten“ der KI gegenüber der Menschheit sind drei Schritte notwendig, oder besser gesagt drei (wahnsinnige) Schritte.

Der erste Schritt zur teilweisen oder vollständigen Autonomie dieser neuen Lebensformen ist bereits getan; „Replikation und Evolution“. Cassandra hat bereits davon geschwärmt in der vorherigen Folge dieser Miniserie. Es besteht genau darin, dass die Schöpfer der KI aktiv damit begonnen haben, an KIs zu arbeiten, die sich selbst modifizieren, indem sie andere KIs produzieren, die besser sind als sie selbst. Tut mir leid, wenn es nicht viel ist.

Heute sprechen wir über den zweiten Schritt; „Evolution und Selektion“: Die dritte scheint glücklicherweise nicht unmittelbar bevorzustehen. Seit 2015 hat die DARPA bereits eine ihrer sehr wichtigen „Grand Challenges“ etabliert. Ja, „die“ DARPA und nicht „die“ DARPA, auch wenn es sich um eine Agentur handelt, denn im Italienischen werden Fremdwörter nicht als Geschlecht angesehen, sie werden nicht in den Plural gestellt und das Maskulinum schließt das Femininum in die Sprache ein. Und selbst wenn die Accademia della Crusca kürzlich auch die „Minister“ freigesprochen hat, wird Cassandra Miss Pia, ihrer Lehrerin der fünften Klasse, treu bleiben, die sich sonst im Grab umdrehen würde sind ein bisschen bekifft und kommen wir zurück zum Punkt. Erinnern wir uns daran, dass DARPA, die Forschungsagentur des US-Verteidigungsministeriums, der Finanzier des Internets war und seitdem sein Geld und das des amerikanischen Militärs die Wurzel sind der meisten neuen Informations- und Robotertechnologien auf einem langen Weg, der TOR und selbstfahrende Autos erreicht.

Seine Initiativen müssen daher immer mit größter Aufmerksamkeit verfolgt werden, und tatsächlich wird der zweite „Schritt ins Delirium“, der zweite Schritt in Richtung Skynets Schachmatt der Menschheit, diesen August auf der DEFCON beginnen, wo die Herausforderung unter den sieben Finalisten stattfinden wird des DARPA Cyber Grand Challenge (CGC) erzählt darin, vielleicht etwas zu abgeschwächt, aber immer noch interessant, Kabelgebundener Artikel.

Kurz gesagt, sieben Entwicklerteams werden ihre jeweiligen KIs entfesseln, jedes auf einem Server aus einer Gruppe von 7 Personen, die in einem perfekt isolierten Netzwerk miteinander verbunden sind. Die Software wird, ohne sich den Computern zu nähern, über eine CD-ROM geladen, die von einem Roboterarm bedient wird, so dass niemand „schummeln“ kann. Das Computernetzwerk wird nicht ein oder mehrere bekannte Betriebssysteme verwenden, sondern eine spezifische Umgebung, die für die Cybersicherheitsforschung geschaffen wurde, DECREE –DARPA Experimentelle Evaluierungsumgebung für Cybersicherheitsforschung.

Das System ist bewusst inkompatibel mit allen bestehenden Netzwerkprotokollen und Betriebssystemen, so dass die Binärdateien, die die KI bilden, absolut inkompatibel mit realen Programmen und Netzwerken sind. Diese KIs hingegen werden „gut“ sein: Sie müssen die absichtlich in den Servern hinterlassenen Fehler identifizieren und so handeln, dass sie diese nicht ausnutzen, sondern beheben. Natürlich ändert sich nur ein Vorzeichen in dieser „Gleichung“ ... Könnte es aus Angst sein, Schurkenländern Elemente zur Entwicklung neuer billiger Cyberwaffen zur Verfügung zu stellen? Oder vielmehr, um autonome Organismen zu schaffen, die in der Lage sind, im „echten“ Cyberspace zu entkommen und sich dort zu vermehren? Oder einfach die Anwendung guter wissenschaftlicher Praktiken, die in der Nuklearforschung, Genomik und Nanotechnologie üblich sind, um Experimente aus Sicherheitsgründen immer unter strengen Bedingungen durchzuführen. Aber Cassandra ist nicht an diese sehr vernünftigen Überlegungen gebunden, weil sie weiterhin ihrer Aufgabe als Prophetin nachgehen muss Untergang und kündigt daher hier an, dass der zweite Schritt in Richtung Skynet am 4. August dieses Jahres von 17:00 bis 20:00 Uhr pazifischer Zeit mit der Veröffentlichung autonomer KI, die in der Lage ist, zu lernen und miteinander zu konkurrieren, in a unternommen wird Computerumgebung. In der Terminator-Saga ging Skynet am 4. August 1997 ganz allein online und begann exponentiell zu lernen. Am 29. August 1997 um 2:14 Uhr atlantischer Zeit wurde er sich seiner selbst bewusst … und wir kennen den Rest der Geschichte. Die Realität bleibt oft hinter der Science-Fiction zurück, und diesen August werden Sie auf der Defcon viele interessante Dinge sehen, aber nichts Vergleichbares wird passieren. Auch der Rest des Sommers wird, zumindest unter diesem Gesichtspunkt, völlig ruhig verlaufen. Aber in einem Jahr, in zehn Jahren, wenn Geld und Rüstungsforschung auch im Bereich der KI das Sagen haben? Nein, selbst Cassandra erkennt, dass kein Skynet geboren werden wird; Allerdings glaubt er, dass kleinere, aber zahlreichere und gefährlichere Dinge entstehen werden. Gesegnet ist also die Welt, die niemals einen großen oder viele kleine John Connors brauchen wird.

Marco Calamari

Treten Sie Communities bei