Ray Kurzweil, ein bekannter Futurist und Director of Engineering bei Google, veröffentlichte eine Widerlegung des Schreibens, in dem eine Pause in der KI-Forschung gefordert wurde, und nannte Gründe, warum der Vorschlag unpraktisch ist und der Menschheit medizinische Durchbrüche und Innovationen vorenthält, die der Menschheit zutiefst zugute kommen.

Internationaler Brief zur Unterbrechung der KI-Entwicklung

Ein offener Brief, unterzeichnet von Wissenschaftlern und Prominenten aus aller Welt (veröffentlicht auf FutureOfLife.org) forderte eine vollständige Pause bei der Entwicklung von KI, die leistungsfähiger ist als GPT-4, die neueste von OpenAI erstellte Version.

Neben der Unterbrechung der Weiterentwicklung der KI forderten sie auch die Entwicklung von Sicherheitsprotokollen, die von unabhängigen Experten Dritter überwacht werden.

Einige der Punkte, die die Autoren des offenen Briefes machen:

• KI birgt ein großes Risiko
• Die KI-Entwicklung sollte erst fortgesetzt werden, wenn vorteilhafte Anwendungen der Technologie aufgezählt und begründet sind
• KI sollte nur fortfahren, wenn „wir“ (die Tausenden von Unterzeichnern des Schreibens) davon überzeugt sind, dass die KI-Risiken beherrschbar sind.
• KI-Entwickler sind aufgefordert, mit politischen Entscheidungsträgern zusammenzuarbeiten, um KI-Governance-Systeme zu entwickeln, die aus Regulierungsbehörden bestehen.
• Die Entwicklung von Wasserzeichentechnologien zur Identifizierung von KI-erstellten Inhalten und zur Kontrolle der Verbreitung der Technologie.
• Ein System zur Zuweisung der Haftung für durch KI verursachte Schäden
• Schaffung von Institutionen zur Bewältigung der durch die KI-Technologie verursachten Störungen

Der Brief scheint aus der Sichtweise zu stammen, dass die KI-Technologie zentralisiert ist und von den wenigen Organisationen, die die Kontrolle über die Technologie haben, angehalten werden kann. Aber KI ist nicht ausschließlich in den Händen von Regierungen, Forschungsinstituten und Unternehmen.

KI ist zu diesem Zeitpunkt eine Open-Source- und dezentralisierte Technologie, die von Tausenden von Einzelpersonen in einer globalen Zusammenarbeit entwickelt wurde.

Ray Kurzweil: Futurist, Autor und technischer Leiter bei Google

Ray Kurzweil entwickelt seit den 1960er Jahren Software und Maschinen mit Schwerpunkt auf künstlicher Intelligenz. Er hat viele populäre Bücher zu diesem Thema geschrieben und ist berühmt dafür, Vorhersagen über die Zukunft zu treffen, die tendenziell richtig sind.

Von 147 Vorhersagen, die er 2009 über das Leben machte, waren nur drei Vorhersagen, insgesamt 2 %, falsch.

Zu seinen Vorhersagen in den 1990er Jahren gehört, dass viele physische Medien wie Bücher an Popularität verlieren werden, wenn sie digitalisiert werden. Zu einer Zeit in den 1990er Jahren, als Computer groß und sperrig waren, sagte er voraus, dass Computer bis 2009 klein genug sein würden, um sie zu tragen, was sich als wahr herausstellte (Wie meine Prognosen abschneiden – 2010 PDF).

Die jüngsten Vorhersagen von Ray Kurzweil konzentrieren sich auf all das Gute, das KI bringen wird, insbesondere auf medizinische und wissenschaftliche Durchbrüche.

Kurzweil konzentriert sich auch auf die Ethik der KI.

Im Jahr 2017 war er einer der Teilnehmer (zusammen mit OpenAI-CEO Sam Altman), die einen offenen Brief verfassten, der als bekannt ist Asilomar AI Prinzipien die auch auf der Future of Life-Website veröffentlicht wurden, Leitlinien für die sichere und ethische Entwicklung von Technologien der künstlichen Intelligenz.

Unter den Prinzipien, die er mitgestaltete:

• „Das Ziel der KI-Forschung sollte es sein, nicht ungerichtete Intelligenz zu schaffen, sondern nützliche Intelligenz.
• Investitionen in KI sollten von Forschungsmitteln begleitet werden, um deren nutzbringenden Einsatz zu gewährleisten
• Es sollte einen konstruktiven und gesunden Austausch zwischen KI-Forschern und politischen Entscheidungsträgern geben.
• Fortgeschrittene KI könnte eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen und sollte mit entsprechender Sorgfalt und Ressourcen geplant und verwaltet werden.
• Superintelligenz sollte nur im Dienste weit verbreiteter ethischer Ideale und zum Nutzen der gesamten Menschheit und nicht eines Staates oder einer Organisation entwickelt werden.“

Kurzweils Antwort auf den offenen Brief, in dem um eine Pause in der KI-Entwicklung gebeten wurde, stammt aus einem Leben voller innovativer Technologie unter dem Gesichtspunkt all der positiven Auswirkungen, die sie für die Menschheit und die Natur haben kann.

Seine Antwort konzentrierte sich auf drei Hauptpunkte:

• Der Ruf nach einer Pause ist zu vage, um praktikabel zu sein
• Alle Nationen müssen der Pause zustimmen oder die Tore werden von vornherein vereitelt
• Eine Entwicklungspause ignoriert die Vorteile wie die Identifizierung von Heilmitteln für Krankheiten.

Zu vage, um praktisch zu sein

Sein erster Punkt in Bezug auf den Brief ist, dass er zu vage ist, weil er eine Pause bei der KI verursacht, die leistungsfähiger ist als GPT-4, die davon ausgeht, dass GPT-4 die einzige Art von KI ist.

Kurzweil schrieb:

„In Bezug auf den offenen Brief zur „Pausierung“ der Forschung zu KI „leistungsstärker als GPT-4“ ist dieses Kriterium zu vage, um praktikabel zu sein.“

Die Nationen werden sich gegen die Pause entscheiden

Sein zweiter Punkt ist, dass die in dem Brief skizzierten Forderungen nur funktionieren können, wenn alle Forscher weltweit freiwillig mitmachen.

Jede Nation, die sich weigert, sich anzumelden, wird im Vorteil sein, was wahrscheinlich passieren würde.

Er schreibt:

„Und der Vorschlag steht vor einem ernsthaften Koordinationsproblem: Diejenigen, die einer Pause zustimmen, können weit hinter Unternehmen oder Nationen zurückfallen, die anderer Meinung sind.“

Dieser Punkt macht deutlich, dass das Ziel einer vollständigen Pause nicht realisierbar ist, da die Nationen keinen Vorteil aufgeben und die KI demokratisiert und Open Source in den Händen von Einzelpersonen auf der ganzen Welt ist.

KI bringt erhebliche Vorteile für KI

Es gab Leitartikel, die KI als sehr geringen Nutzen für die Gesellschaft abtaten und argumentierten, dass die Steigerung der Arbeitsproduktivität nicht ausreiche, um die befürchteten Risiken zu rechtfertigen.

Kurzweils letzter Punkt ist, dass der offene Brief, der eine Pause in der KI-Entwicklung fordert, all das Gute, das KI tun kann, völlig ignoriert.

Er erklärt:

„Die Weiterentwicklung der KI in kritischen Bereichen wie Medizin und Gesundheit, Bildung, dem Streben nach erneuerbaren Energiequellen als Ersatz für fossile Brennstoffe und zahlreichen anderen Bereichen bietet enorme Vorteile.

… mehr Nuancen sind erforderlich, wenn wir die tiefgreifenden Vorteile der KI für Gesundheit und Produktivität erschließen und gleichzeitig die wirklichen Gefahren vermeiden wollen.“

Gefahren, Angst vor dem Unbekannten und Nutzen für die Menschheit

Kurzweil macht gute Punkte darüber, wie KI der Gesellschaft zugute kommen kann. Sein Argument, dass es keine Möglichkeit gibt, die KI tatsächlich anzuhalten, ist vernünftig.

Seine Erklärung der KI betont die tiefgreifenden Vorteile für die Menschheit, die der KI innewohnen.

Könnte es sein, dass die Implementierung von KI durch OpenAI als Chatbot KI trivialisiert und den Nutzen für die Menschheit überschattet, während sie gleichzeitig Menschen erschreckt, die nicht verstehen, wie generative KI funktioniert?

Ausgewähltes Bild von Shutterstock/Iurii Motov

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoAiStream. Web3-Datenintelligenz. Wissen verstärkt. Hier zugreifen.
• Die Zukunft prägen mit Adryenn Ashley. Hier zugreifen.
• Kaufen und verkaufen Sie Anteile an PRE-IPO-Unternehmen mit PREIPO®. Hier zugreifen.
• Quelle: https://www.searchenginejournal.com/ray-kurzweil-rebuts-calls-to-pause-ai-research/486315/