Wehret den Skynet-Anfängen: Forscher suchen ethische Grenzen für KIs

Einen Kommentar schreiben
[o1] Souldancr am 08.12. 19:17
+ -1
Falls die Maschinen sich wirklich höher entwickeln, als der Mensch es bisher tat,
könnte ich mir vorstellen, dass Wir uns irgendwann mal in einem Zoo wieder finden.
[re:1] Tomarr am 09.12. 00:44
+1 -3
@Souldancr: Wie oft denn noch. Maschinen werden sich nie höher entwickeln als der Mensch. Sie sind in Sachen mathematischer Rechenleistung überlegen, das waren sie aber schon immer und jeder Taschenrechner ist da besser als der Mensch.

KI ist niemals gleich zu setzen mit Bewustsein oder ähnlichem. Am Ende eines jeden KI-Zyklus kommt auch immer nur ein true oder false raus. Ist die KI fehlerhaft programmiert oder antrainiert, sprich falsche Daten wurden eingeführt, logisch liefert sie falsche Ergebnisse wie jedes andere Programm auch.

Also wenn es um die Zerstörung der Menschheit geht, dazu braucht es keine KI. Ein falscher normaler Programmcode reicht um sehr großen Schaden anzurichten. Ich weiß nicht ob Atomraketen heute durch so einen fehlerhaften Code gestartet werden können, aber ein länger andauernder Stromausfall reicht ja aus damit sich jeder auf der Straße umlegt.

Von daher weiß ich immer nicht warum immer wieder Skynet oder die Menschen werden im Zoo landen als KI-Panikmache ran gezogen wird.
[re:1] M_Rhein am 09.12. 08:46
+3 -2
@Tomarr: das ist deine Meinung und verkaufst sie als Tatsache.
Bewusstsein hin oder her, vill kann das auch mal eine Maschine ?

Ich würde das nicht verneinen wenn ich an Biotechnologie denke.
[re:1] Tomarr am 09.12. 10:42
+ -2
@M_Rhein: Das hat mehr mit logischem denken und dem Verständnis von Computern zu tun.

Wenn du einen "Killerroboter" baust. Nehmen wir mal so einen wie die Russen schon presentiert haben der auch ne Waffe halten und schießen kann. Ich denke das würde dem Terminator dann in der heutigen Zeit am nächsten kommen. Gib ihm ne KI die mensch von Tier unterscheiden kann und lass ihn alles abballern was Mensch ist. Wer wird dann wohl schuld sein? Die KI die das macht was du ihr beigebracht hast oder der Depp der es ihr diese Aufgabegestellt hat?

Bewustsein wird eine KI niemals bekommen. Es gibt zwar forscher die an etwas wie künstlichem Bewustsein arbeiten. Doch Bewustsein ist noch einmal mehr als KI. Bewustsein hängt nicht von neuronalen Netzen oder ähnliches ab was man vielleicht noch Mathematisch nachbilden könnte.

Es hat einen guten Grund warum nur Menschen und vielleicht zwei oder drei Tierarten ein Bewustsein entwickelt haben. Eine gewisse Intelligenz haben sie jedoch alle, mal höher mal nicht ganz so hoch entwickelt. Eben halt weil es ein Bewustsein nicht einfach so gibt.
[re:1] mmode7m8 am 14.12. 14:56
+ -
@Tomarr: Ein jedes Tier hat ein Bewusstsein. Bei allen Säugetieren ist es mindestens so hoch entwickelt wie beim Menschen. Die Tiere nehmen bewusst ihre Umgebung wahr, fühlen wie wir, lieben, hassen, zürnen und sind nicht bloß wie biologische Maschinen, die einem starren Programm folgen. Der Mensch ist tatsächlich nicht die Krone der Schöpfung, aber sicherlich einsame Spitze in Sachen Selbstverherrlichung und Arroganz, sonst würde er sich nicht anmaßen "sich die Erde untertan zu machen", sondern harmonisch mit ihrer Biosphäre und allem Leben darin zu koexistieren versuchen.
[re:2] Tomarr am 14.12. 15:42
+ -
@mmode7m8: Tiere kennen Zorn? Das ist Quatsch. Tiere kennen weder Zorn noch Liebe oder ähnliches. Ausnahmen haben da die Regel. Aber im Großen und Ganzen folgen Tiere nur ihrem Instinkt.

Es gibt nur wenige Tiere die sich ihrer selbst bewusst sind, z. B. Delphine. Aber das ist neben einigen Menschenaffen auch schon eine große Ausnahme. Nur wir Menschen interpretieren oft in das Verhalten von Tieren ein Bewusstsein hinein, sonst aber auch nichts.
[re:2] Andy2019 am 12.12. 14:57
+ -
@M_Rhein:
Das ist keine Meinung sondern einfachste Tatsache die gegen die aktuelle KI-Panikmache versucht etwas entgegenzusetzen.
[re:2] Kiebitz am 09.12. 15:03
+1 -1
@Tomarr: Nur!!! Souldancr schrieb überhaupt nichts von Bewusstsein! Den Begriff hast Du erst eingebracht! Eine höhere Entwicklung ist auch ohne Bewusstsein möglich. Und wenn ein Irrer (Mensch) eine Maschine entwickelt mit entsprechender KI zum Killen aller / bestimmter Menschen, dann wird das Ding es auch tun. Denke an Kampfdrohnen, die eigenständig unterscheiden, was ist Freund, was ist Feind. Und diese Möglichkeit steigt mit zunehmender Entwicklung, zunehmender KI.

Und was Du in Deinem Absatz 2 beschreibst von wegen KI fehlerhaft programmiert / antrainiert, dann werden falsche Ergebnisse geliefert. Hmmmmm? Was sind falsche Ergebnisse. Was für die einen Entwickler falsche Ergebnisse sein können, können für die anderen Entwickler richtige sein! Wer will das endgültig bzw. einvernehmlich entscheiden. Wenn einer Drohne einprogrammiert wurde, alles "Arabische" (Kombination aus Aussehen, Sprache, Kleidung, Standort usw....) zu bekämpfen, ist das für Kämpfer gegen "Arabisches/ Moslemisches" gut. Aber für die Gruppe der Betroffenen (arabisch/moslemisch) ist es eben furchtbar bis tödlich.

Und trotz dieser "Höherentwicklung" des Gerätes und ihrer KI und zunehmder Selbstlerneffekte braucht das Ding dazu kein Beusstsein.
[re:1] Tomarr am 09.12. 15:38
+1 -1
@Kiebitz: Das war eher die Anspielung auf Skynet das ja bekanntlich im Jahr 1997 ein eigenes Bewustsein entwickelte.

Und für deine beschriebenen Scenarien braucht es nicht wirklich eine großartige KI. Rein theoretisch nur eine Gesichtserkennung, Foto von Gesicht zeigen, und los. Schon wird er und sein Zwillingsbriuder eleminiert. Oder noch besser, Atomwaffen. Da braucht es mal gar keine Intelligenz um große Landstriche auszurotten, nur einen Idioten der auf den entsprechenden Knopf drückt. Vielleicht wäre da Intelligenz sogar hilfreich damit es nicht passiert.

Aber hier wird sugeriert das eine KI um so "Intelligenter" sie wird um so gefährlicher wird sie auch weil sie für sich entscheiden könnte zum Mörder zu werden. Und das wird halt nicht der Fall sein.

Oben im Text wurde beschrieben das eine KI schwarze menschen als Gorillas identifieziert hat und das schlecht sei. Klar, politisch gesehen wäre es schlecht. Nur die KI hat dann halt "gedacht" das Arme, Beine, Kopf, sprich die Form des Körpers plus schwarz ein Gorilla sein muss. Die KI hat halt nur nicht zwischen Fell und kein Fell unterschieden. Das hat aber nichts mit böser KI zu tun.

Andweres Beispiel. Das Militär hat mal eine KI trainiert getarnte Panzer im Wald zu erkennen. So wurden der KI Bilder gezeigt mit Panzern im Wald und ohne Panzer. Funktionierte hervoragend. Dann wurde ein neues Set Bilder vorgelegt und es funktionierte nicht mehr. Man hat dann festgestellt dass die Fotos aus der ersten Serie mit Panzer alle bei gutem Wetter aufgenommen wurden und alle ohne Panzer bei Regen. Sprich die KI konnte dann super zwischen Sonnenschein und Regen unterscheiden. Böse KI? Eher im Gegenteil, wenn es ein Mensch wäre würde man von kindlicher Unschuld sprechen wenn es statt Kriegsgerät das Wetter beobachtet.

Aber all diese Fehler und noch mehr Unheil kannst du auch mit einem normalen Programm haben.

Ich würde mich tierisch freuen wenn man eines Tages eine KI auf dem Rechner hätte die einem ein bischen bei der Arbeit hilft und der man seine Ansichten von der Welt erklären kann wenn man lange Weile hat. Wird aber in der Form noch lange nicht passieren, wenn überhaupt.

Früher, mein erstes Programm das ich mal aus einer Zeitschrift abgetippt habe hieß Eliza. Das war sogar noch vorm C64 auf einem TI 99/4A. Und alle die das Programm benutzten dachten was für ein tolles Programm das ist, KI und hast nicht gesehen. Allerdings hat das Programm nur geschickt antworten aus dem Gespräch in Gegenfragen umgestellt und alle dachten das ist eine echte Unterhaltung.

Ok, heutige KIs sind da schon wesentlich besser. Aber sie sind noch weit entfernt davon jetzt Moral zu verstehen das man ihnen das beibringen könnte, was ja quasi im Text oben gefordert wird, oder halt Menschen zu versklaven, von sich aus auszulöschen oder was auch immer.
[re:1] Kiebitz am 10.12. 17:50
+ -
@Tomarr: Mun. Im Grunde widersprichst Du mir ja nicht. Und beachte bitte mein letzten Satz: "Und trotz dieser "Höherentwicklung" des Gerätes und ihrer KI und zunehmder Selbstlerneffekte braucht das Ding dazu kein Bewusstsein...". Selbstlerneffekte!

Du schreibst, dass es für die von mir beschriebenen Scenarien nicht wirklich eine großartige KI braucht. Das ist schon richtig. Darum ging es bei mir auch nicht. Ich hatte zunächst auf den von Dir eingebrachten Begriff "Bewusstein" gezielt. Und das braucht es eben nicht. Bleibt auch noch die Frage, wo eine künstliche Intelligenz beginnt? Wann stufen wir etwas als KI ein. Schon das Beispiel Drohne? Oder erst den aussergewöhnlichen Schachkomputer. Wo beginnt es?

Interessant wäre ja auch die Frage, ob eine Vielzahl von Daten, Schlüsseln, Selbstlerneffekten, Programmierungsmöglichkeiten, verbesserten Hard- / Software-Kombinationen usw...usw... nicht doch irgendwann letztlich den Effekt von Moral und Ethik haben können. Jetzt vielleicht noch nicht. Aber in der Zukunft?

Ich meine bewusst den Effekt von Moral und Ethik im Handlungsergebnis. Soll heissen, dass Ergenis des Handelns entspricht den menschlichen Wertvorstellungen, Ethik u. Moral. Auch wenn das Ergebnis auf anderem Wege (Technik) entstand als durch "menschliches" Fühlen / Denken usw...

Und ich will hierzu keine Diskussion über Ethik, Moral, Wertvorstellungen, Bewusstein aufmachen. Aber diese können sooo vielseitig -oder eben- unterschiedlich sein wie es Menschen gibt. Denke in diesem Zusammenhang an Einflüsse von Religionen, Abstammungen, Herkunft, Ideologien usw.... usw... Beeinflussen alle Ethik, Moral und damit auch das Bewusstein und Denken. Welchen oder was davon soll eine KI folgen? Haben wir dann eine moslemische KI oder eine katholische oder eine kommunistische oder "demokratische"oder....oder..?

Da kann man lange diskutieren, ja sogar philosophieren. Philosophieren im Sinne von sich nicht auf ein spezielles Gebiet oder eine bestimmte Methodologie begrenzen, sondern durch die Art der Fragestellungen und der besonderen Herangehensweise und den vielfältigen Gegenstandsbereichen sich umfassend öffnen ohne !!! ein vorgegebenes / erwartetes Ziel.

Nun ja. Mein Gedanken, und nicht nur technisch orientierte Gedanken, zum "Thema".

Grüsse!
[re:2] Tomarr am 10.12. 20:38
+ -1
@Kiebitz: Ab wann eine KI anfängt ist natürlich eine sehr gute Frage.

Ich selber bin ja eher ein Verfächter das wir auch nicht mehr machen als die KI. Eine KI hat eine gewisse Wissensdatenbank, etwas derartiges haben wir auch. Durch das erlernen gewisser Dinge, z.B. Fotoerkennung, sammelt sie Erfahrung. Auch das tun wir. Und ich schätze mal bei Nichtwissen greift sie auch auf externe Daten zu, wie wir mit Google und Co.

Der Einzige Unterschied dürfte sein das wir ein wesentlich größeres Neuronennetz haben das eben halt acuh noch ausnahmsweise schneller Arbeitet, wenn auch nicht in der Mathematik.

Was die eigenen Entscheidungen angeht, da glaube ich das wir gar nicht so selbsständig entscheiden können wie wir immer denken. Sogar einige hochrangige Wissenschaftler sind inzwischen der Meinung dass der freie Wille eher eine Illusion ist. Mal als Beispiel. Du hast durst und die Wahl zwischen Orangensaft und Apfelsaft. Da du durst hast kannst du schonmal nicht längere Zeit entscheiden nichts zu trinken. Dann die Entscheidung zwischen OSaft oder ASaft. Du wirst dich wahrscheinlich für das entscheiden was du von den Gefühlen her als angenehmer assoziierst. Z.B. ein schöner Urlaub oder ähnliches.

Unsere alten Instinkte beeinflussen uns wesentlich mehr als wir denken.
[re:3] Kiebitz am 11.12. 15:57
+ -
@Tomarr: Du:"...Unsere alten Instinkte beeinflussen uns wesentlich mehr als wir denken..." Das ist wohl richtig. Deswegen ja mein Satz "...Denke in diesem Zusammenhang an Einflüsse von Religionen, Abstammungen, Herkunft, Ideologien usw.... usw... Beeinflussen alle Ethik, Moral und damit auch das Bewusstein und Denken...". Und natürlich dann auch das Handeln!
[re:2] Andy2019 am 12.12. 15:01
+ -
@Kiebitz:
Tomarrs Aussage bezog sich auf den Satz 'könnte ich mir vorstellen, dass Wir uns irgendwann mal in einem Zoo wieder finden.'

Das wird keine existierende KI jemals schaffen und es wird noch sehr sehr sehr lange dauern (wenn überhaupt) bis so eine KI existiert die für sowas imstande wäre.

Somit hat Tomarrs mit seiner Aussage recht. Sie haben eine wahnsinnige Rechenleistung, viel Intelligenter als ein Taschenrechner sind sie aber deswegen auch nicht. So wenig wie ein Taschenrechner die Menschheit knechten kann so können es auch sogenannte KIs nicht.
[o2] Selawi am 09.12. 07:18
+1 -4
Irgendwie nimmt das die gleichen hysterischen Züge an, wie damals zu Beginn der Gentechnik
Da wurde dann auch von Klon-Kriegern u.ä. schwadroniert...was bei rationaler Betrachtung
aber schon damals völliger Stuss war....und schon damals von völliger Ahnungslosigkeit der
Materie seitens der Panikmacher zeugte (die aber in Fernsehsendungen gerne als
sog. "Experten" herumgereicht wurden) . Aber hierzulande führte das zu völlig irrationalen
Verboten...und dem Verlust des technologischen Anschlusses.

Beim aktuellen KI-Ethik-Gelaber, kann man die gleiche Entwicklung wie damals beobachten.
Wieder angestoßen von der gleichen ahnungslosen aber lautstarken Klientel mit
"Experten-Anspruch". Und auch das Ergebnis wird vermutlich hierzulande wieder
das gleiche sein...

KI=German Angst...muss man alles verbieten.Anstatt etwas zu lernen und verstehen

Kurz: Manche Leute scheinen selbst in Jahrzehnten nichts dazu zu lernen.
[re:1] Kiebitz am 11.12. 16:18
+ -
@Selawi: Nun! Da gibt es ja auch noch die andere Seite mit ihrerm ahnungslosen aber lautstarken Gelaber mit "Experten-Anspruch". Die, die alles Neue unkrtisch bejubeln und annehmen. Und die die kritischen nachdenklich eingestellten Leute eben als "... ahnungslose aber lautstarke Klientel mit
"Experten-Anspruch"! So wie Du beispielsweise! Und solche Leute (wie Du!) "... scheinen selbst in Jahrzehnten nichts dazu zu lernen...". Wie heisst es doch im Volksmund? " Jede Medaille hat zwei Seiten. Es ist nicht alles Gold was glänzt. Nicht alles Neue ist gut. Und nun noch Einstein:" Wir leben in einer Zeit vollkommener Mittel und verworrener Ziele."
[o3] spackolatius am 09.12. 07:53
+5 -1
Ethische grenzen? Die werden durch Geld bestimmt verwischt. Seit wann hält die Menschheit Grenzen ein wenn es um Geld geht?
[o4] darius_ am 10.12. 11:07
+1 -
warum sollten ethische Grenzen ein Garant für "gute/bessere/sichere" KI darstellen? ethische Grenzen werden von Menschen, Menschen eines bestimmten Kultur/Wirtschafts/wertekreises erstellt.
Einen Kommentar schreiben
Desktop-Version anzeigen
Hoch © 2000 - 2019 WinFuture Impressum Datenschutz