CCC unterstützte drei wissenschaftliche Sitzungen auf der diesjährigen AAAS-Jahreskonferenz. Falls Sie nicht persönlich teilnehmen konnten, werden wir jede Sitzung noch einmal zusammenfassen. Heute werden wir die Höhepunkte des Frage-und-Antwort-Teils der Sitzung zusammenfassen: „Große Sprachmodelle: Hilfreiche Assistenten, romantische Partner oder Betrüger?„Dieses Panel, moderiert von Dr. Maria Gini, CCC-Ratsmitglied und Informatik- und Ingenieurprofessor an der University of Minnesota, vorgestellt Dr. Ece Kamar, Geschäftsführer von AI Frontiers bei Microsoft Research, Dr. Hal Daumé III, Informatikprofessor an der University of Maryland, und Jonathan May, Informatikprofessor am Information Sciences Institute der University of Southern California.

Unten finden Sie die faszinierende Zusammenfassung des Fragen-und-Antwort-Teils des "Große Sprachmodelle: Hilfreiche Assistenten, romantische Partner oder Betrüger?" Panel. Ist KI zur Liebe fähig? Welche Auswirkungen könnten diese Modelle auf Kinder haben? Wie stehen die KI-Fähigkeiten der Vereinigten Staaten da? Finden Sie es unten heraus:

F: Welche Praktiken sollten wir beim Einsatz von KI-Sprachmodellen in mehrsprachigen und multikulturellen Kontexten anwenden?

Dr. May: Durch die Entwicklung von Technologie und den Abbau von Mauern sollte es den Menschen leichter gemacht werden, das zu tun, was sie tun möchten. Was jeder tun möchte, nicht nur ich. Danke AI, es ist großartig, sich auf mich zu konzentrieren, aber wir sollten auf den Rest der Welt im Allgemeinen achten.

F: Einige dieser allgemeinen Probleme werden nicht zum ersten Mal angesprochen. Es scheint, als würde die Community diese Probleme nicht alleine lösen. Ich frage mich, ob Sie alle Ideen haben, wie diese Gespräche in die Tat umgesetzt werden können?

Dr. Kamar: Es gibt Rollen für viele verschiedene Parteien. Bei der Darstellung verschiedener Kulturen und Bevölkerungsgruppen ist die Bewertung von großer Bedeutung. Wenn Datensätze keine Diversität in der weltweiten Darstellung aufweisen, sind die resultierenden Systeme nicht repräsentativ. Es muss noch viel Arbeit geleistet werden, um Best Practices, Vorschriften und Compliance-Maßnahmen für die Bewertung festzulegen. Das Weiße Haus hat Zusagen gemacht und der Entwurf für eine KI-Bill of Rights beginnt. Es wurden branchenübergreifend Prozesse implementiert, in denen viele großartige Köpfe zusammenarbeiteten (nicht perfekt, aber branchenübergreifend gibt es Potenzial). Es finden Treffen statt, um eine Konvergenz über die derzeitigen Standards zu erzielen. möglicherweise in künftigen Regelungen. Wie führen wir Auswertungen, Sicherheitsanalysen etc. durch? Keines dieser Gespräche weist die Vielfalt auf, die im Raum sein muss. Überlegen Sie, wer bei der Entscheidungsfindung im Raum sein muss.

Dr. Daumé: Ich denke, wenn über Regulierung gesprochen wird, insbesondere im Bereich der KI, denkt jeder an Strafvorschriften. Dies kann aber auch ein Anreiz zur Regulierung sein. Die Finanzierung durch politische Entscheidungsträger und NSF könnte die Entwicklung von Instrumenten fördern, die uns als Nation und der Welt helfen.

F: Die Finanzierung von KI ist in den USA im Vergleich zu anderen Orten der Welt weit zurückgeblieben. Die Neuinvestition von NSF beläuft sich auf etwa 20 Millionen, was im Vergleich zu Brancheninvestitionen eine Kleinigkeit ist. Die Bundesregierung veröffentlicht seit Jahren Berichte aus Studien, und das Fazit lautet: Die USA müssen loslegen. Ich liebe Eces Phasenwechsel-Analogie. Die thermodynamische Grenze wächst mit Zahlen. Wir wollen offene KI, wer soll dafür bezahlen? Es gibt nicht genug Geld. Was sind Ihre Vorschläge? Offene KI? Aber wir haben noch nicht einmal Open-Access-Publikationen. Würden Sie dem Präsidenten empfehlen, keine Gesetze zu erlassen?

Dr. May: Ich denke, es gibt Geld; Jemand hat mir gegenüber bemerkt, dass es Ihnen gelungen ist, die Regierung davon zu überzeugen, Partikel herumzuschleudern, es Ihnen aber nicht gelungen ist, sie an uns weiterzuleiten.

Dr. Kamar: Der Grund dafür, dass Unternehmen, die diese Modelle entwickeln, diese Ergebnisse erzielen, ist die Zentralisierung von Ressourcen. Es gibt viel, was man von der Skalierung erwarten kann. Wir sollten darüber nachdenken, wie wir Investitionen in die Wissenschaft zentralisieren, damit wir eine gemeinsame Ressource erhalten, anstatt viele verschiedene Modelle zu haben. Wir sehen, dass es nicht nur auf die Größe ankommt. Das müssen wir im Moment nicht tun, aber die aktuelle Architektur ist nicht großartig. Bei guten KI-Fähigkeiten sollte es nicht nur um mehr Geld und mehr Macht gehen.

F: Überrepräsentationsverzerrung in den Antworten. Wissen wir, woher es kommt? Ich bin ein Mathe-Typ und meine Gedanken gehen davon aus, dass eine Anhäufung von Rundungsfehlern zu einer Verzerrung führt? Bei gleicher Darstellung würde ich mir vorstellen, dass eine gleiche Darstellung ausgegeben wird, oder wäre sie immer noch vorhanden?

Dr. May: Vieles hängt von den Spitzenfunktionen ab. Soft Maximum ist ein wichtiger Teil des Trainings. Highest will die Nummer 1 sein. „Es ist nicht so, dass es eine perfekte Sprachausgabe gibt, aber wir wollen eine gewisse Voreingenommenheit haben.“ Wir wollen lediglich den Schaden für Menschen minimieren und sind uns dessen oft nicht bewusst. Eine Bereitstellung ohne Verständnis ist ein Problem. 

Dr. Daumé: Eine der Herausforderungen bei diesen Modellen besteht darin, dass es keine engen KI-Modelle mehr gibt. Sie sagen, sie können alles, deshalb ist es schwierig, alles zu testen.

F: Sie haben erwähnt, dass KI ein Werkzeug oder ein Ersatz ist. Welche Richtung sehen Sie darin?

Dr. Daumé: Es fließt mehr Geld in den Ersatz.

F: Der Titel erwähnte romantische KI. Darüber möchte ich mehr erfahren.

Dr. May: Die Absicht der Modelle reicht nicht aus, um einen brauchbaren romantischen Ersatz zu bieten, aber sie sind so gut wie Menschen darin, Muster zu erkennen, auch wenn sie nicht existieren.

Dr. Kamar: Ich rate Ihnen, KI nicht als das zu betrachten, was sie derzeit ist. Versuchen Sie, in die Zukunft zu projizieren – stellen Sie sich vor, dass diese Systeme in ein paar Jahren auf Sie zugeschnitten sein werden. Welche Beziehung werden Sie zu diesem System haben?

Dr. May: Aber wird es Sie lieben?

Dr. Kamar: Es wird Ihnen sagen, dass es Sie liebt.

Dr. May: Aber ist das genug?

F: Ich möchte Ratschläge für Leute hören, die nicht im Bereich KI tätig sind. Wie können wir mit diesen Tools interagieren? Was sollten wir wissen?

Dr. Daumé: An der University of Maryland führen wir diese Gespräche häufig. Es fällt mir leicht zu sagen, dass der Journalismus in fünf Jahren anders sein wird, und andere Bereiche auch. Es ist unangenehm zu sagen, dass die Rolle des Professors in fünf Jahren eine andere sein wird, aber das wird so sein. Ich habe Kollegen, die unterschiedliche LLM-Plug-ins für Vorschläge und Papiere verwenden; es passiert bereits. Ich lasse mir regelmäßig Prüfungsfragen von Tools schreiben, muss diese aber auf Richtigkeit überprüfen. Das Schreiben von Prüfungsfragen macht mir keine Freude, also kann die KI es mir abnehmen. Im Hochschulbereich müssen wir mehr darüber nachdenken. Wie verändert es unsere Arbeitsplätze? An den Universitäten gibt es viele Diskussionen, aber es werden nicht viele Ressourcen gebündelt.

F: Wie willkommen ist KI in Zukunft bei der Prüfung militärischer Anwendungen? Militärische Anwendungen wurden in dieser Sitzung nicht erwähnt – wenn ich die Leute halbwegs richtig verstehe, weiß ich, dass es zu diesem Thema unterschiedliche Meinungen gibt.

Dr. May: Das Militär ist breit gefächert, ein Großteil meiner Arbeit wird vom Verteidigungsministerium gesponsert. Eine konkrete Antwort ist schwer zu beantworten, denn im Allgemeinen scheint das Verteidigungsministerium (ohne für es zu sprechen) der Sicherheit der USA Priorität einzuräumen und wird dies auch weiterhin tun und LLMs und KI einsetzen, um die Sicherheit der USA zu gewährleisten.

Dr. Kamar: Wir müssen auch über Dual Use reden. Wenn man die militärische Arbeit in der Biologie oder der Cybersicherheit betrachtet, können wir die vielversprechenden Werkzeuge, die wir derzeit haben, nutzen und sie nutzen, weil wir sichere Systeme und neue Medikamente wollen. Aber mit jeder guten Verwendung wird es auch eine schlechte Verwendung geben. In welchen Anwendungsfällen soll KI nicht eingesetzt werden? In Open-Source-Anwendungen können Benutzer diese Modelle replizieren. Wie verhindern wir, dass Menschen in diesen Fällen Schaden anrichten?

F: Bei der Interaktion mit Sprachmodellen verstehen Erwachsene, dass sie nicht lebendig/selbstbewusst sind, aber was ist mit einigen Generationen später? Kinder, die es hatten, seit sie sich an soziale Kontakte erinnern konnten? Sie haben einen Tutor oder Lehrer, der vollständig KI ist; Das System ist mit einem Ausbilder ausgestattet. Sie könnten eine Bindung zu dem Unterricht aufbauen, denken, dass sie eine tolle Beziehung haben, und dann wird das Programm gelöscht. Was ist die Kinderpsychologie sozialer emotionaler Bindungen mit nicht-personenbezogenen Entitäten?

Dr. Kamar: Wir brauchen Forschung, interdisziplinäre Forschung, und zwar schnell. In fünf Jahren werden wir diese Antworten vielleicht bekommen, aber in dieser Zeit könnte KI ein wichtiger Teil des Lebens meines 5-Jährigen werden. Ihre Frage ist äußerst wichtig. Es gibt Untersuchungen, die zeigen, dass selbst unschuldige Systeme Hintertüren haben können. Wir brauchen heute Sicherheitsexperten und Kinderentwicklungsspezialisten, die diese Gespräche führen.

Dr. Daumé: Ich weiß nicht, ob sich irgendjemand an die Überwachung von Barbie erinnert – hier gibt es ein großes Datenschutzproblem. Es ist ein interessanteres soziales Thema. Die Antworten waren übertrieben positiv. Kinder würden Dinge sagen wie „Ich bin wütend, weil Sally nicht mit mir gespielt hat“ und es gibt keine sozial angemessenen Vorschläge. Ich mache mir Sorgen um sehr positive Agenten, denn Positivität ist nicht immer die richtige Antwort.

Vielen Dank fürs Lesen und seien Sie gespannt auf die Zusammenfassung unseres dritten und letzten Panels bei AAAS 2024.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/