wer den kurzweil artikel
http://www.kurzweilai.net/articles/art0134.html?printable=1
schon gelesen hat und interessant gefunden hat. hab jetzt noch einen interessanten artikl zu dem themenkreis:
http://www.singinst.org/CFAI/index.html
"creating a freindly AI" (AI = artificial inteligence)
der text ist relativ lang (ausgedruckt etwa 200 seiten..aber gut online zu lesen) und befasst sich detailiert mit der aufgabe der gestaltung der ersten AI die inteligent genug ist um den eigenen sourcode solange zu verbessern bis sie immer weiter intelligent wird.. eine sogenannte "seed AI".
die fragestellung dabei ist wie kann diese "friendly" gestaltet werden so dass sie uns nuetzlich ist und nicht schaedlich.
die analysen sind sehr detailiert und auch unabhaengig vom problem der singularitaet interessant weil dabei viele spannende philosophische fragen aufgeworfen werden.
die thesen von CFAI zusammengefasst:
=> die erste superintelligenz (intelligenter als mensch) wir eine rein kuenstliche sein und kein "upload"
=> wenn der erste versuch misslingt waere das schon eine katastrophe. allerdings sind viele der technologien die jetzt im entstehen sind (nanotechnologie, biotechnologie, etc..) ebenfalls sehr riskant und koenntne die menschheit ausloeschen. es macht daher sinn zuerst die intelligenz zu entwicklen damit diese uns dabei unterstuetzt die anderen risken zu entschaerfen.
=> es ist moeglich eine "freundliche" AI zu erschaffen veren ziele z.b. das maximale wohle aller menschen ist etc.. in diesem bereich wird viel mit "antropomorphem" ansichten aufgeraeumt. wir menschen koennen uns andere intelligenzen nur so vorstellen wie wir selbst. egoistisch so wie uns millionen von jahren evolution geschaffen haben. eine kuenstliche intelligenz kann aber auf jedes beliebige ziel trainiert werden. der wichtige punkt ist diese ziele richtig zu implementieren. der text geht dazu sehr ins detail. ein wichtiges element dabei ist dass ves seine ziele selbst verbessern kann.
=> die hypothese ist dass daraus nicht "eine freundliche AI" entsteht sondern "DIE freundliche AI". dass jede intelligenz ab einem gewissen fruendlichkeitsleven sehr stark konvergent gegen eine generelle "freundlichkeit ist". egal von wem ves programmiert wurde vorausgesetzt es wuerden die grundsaetzlich richtigen weichenstellungen gelegt.
=> diese "seed AI" sollte einen "transiton guide" erarbeiten der uns sicher jenseits der singularitaet geleitet...
lg mond.