CAMBRIDGE, Masse., August 10, 2023 / PRNewswire / - RTXs (NYSE: RTX-Erweiterung) Die BBN-Abteilung erhielt einen Auftrag zur Unterstützung von DARPAs „In The Moment" Programm. ITM zielt darauf ab, die Grundlagen zu entwickeln, die für Algorithmen erforderlich sind, die vertrauenswürdig sind, um unabhängig Entscheidungen in Szenarien wie Massenverletztentriage und Katastrophenhilfe zu treffen, wo komplexe und schnelle Entscheidungen in dynamischen Situationen erforderlich sind, in denen es oft keinen menschlichen Konsens und keine klare richtige Antwort gibt.

„Bei ITM geht es um mehr als nur darum, KI dazu zu bringen, in sehr kontrollierten Szenarien die richtige Antwort zu liefern. „Wir reden hier nicht davon, KI anhand markierter Daten zu trainieren, um einen Krebstumor auf einem Röntgenbild zu identifizieren“, sagte er Alice Leung, leitender Ermittler von Raytheon BBN. „Was wir stattdessen erreichen wollen, ist die Fähigkeit, KI-Systeme zu schaffen, die es Menschen ermöglichen würden, in unkontrollierten Umgebungen selbstständig Entscheidungen zu treffen. Um dies zu erreichen, müssen wir herausfinden, wie menschliche Experten wirklich schwierige Entscheidungen treffen, und beurteilen, ob wir den Entscheidungen anderer vertrauen können. Wir werden sowohl Entscheidungsforschung als auch Vertrauensforschung durchführen.“

Das von Raytheon BBN geleitete Team, zu dem Kairos Research, MacroCognition und Valkyries Austere Medical Solutions gehören, wird eine kognitive Interviewtechnik verwenden, um zu verstehen, wie Experten – in diesem Fall medizinische Fachkräfte und Ersthelfer – Informationen bewerten und schwierige Kompromisse eingehen an kritischen Entscheidungspunkten entschlossen handeln. Diese qualitativen Informationen werden verwendet, um szenariobasierte Experimente zu entwerfen, um zu untersuchen, wie Unterschiede in den Entscheidungsattributen einer Person ihre Entscheidungen erklären können und wie sich die Übereinstimmung von Attributen zwischen zwei verschiedenen Personen auf die Bereitschaft auswirkt, Entscheidungen an eine andere Person zu delegieren. Dadurch kann die KI auf eine Expertenpopulation oder sogar auf einen einzelnen Experten abgestimmt werden.

„Da die Art und Weise, wie wir Entscheidungen treffen, von Person zu Person unterschiedlich ist, ist es unwahrscheinlich, dass es ein einheitliches, vertrauenswürdiges KI-Modell gibt“, sagte Leung. „Stattdessen sollten wir theoretisch in der Lage sein, KI-Systeme zu schaffen, die sich an den Benutzer und die Domäne anpassen. Entscheidungen sind aufgrund der Unsicherheit und der Kompromisse zwischen konkurrierenden Zielen schwierig. Wir möchten in der Lage sein, die Attribute einer KI wie Risikotoleranz, Prozessfokus oder die Bereitschaft, Pläne zu ändern, so anzupassen, dass sie besser zu einem Benutzer oder einer Benutzergruppe passen.“  

DARPA bringt mehrere Teams zusammen, um an diesem Programm zusammenzuarbeiten. Andere Teams werden sich auf die Entwicklung von Prototypen von KI-Entscheidungsträgern konzentrieren, die mit Basiswissen beginnen und dann an eine Reihe von Zielattributen angepasst werden können. Die Forschungsprodukte aus diesem Programm werden integriert und ausgewertet, um festzustellen, wie gut die algorithmischen Agenten in der Lage waren, angesichts schwieriger Szenarien Entscheidungen im Einklang mit den angestrebten menschlichen Eigenschaften zu treffen. Das Programm wird auch testen, ob menschliche Experten diesen abgestimmten Agenten mehr vertrauen als den Basisagenten oder anderen tatsächlichen Menschen. Bei diesen Programmbewertungen des Vertrauens wird den menschlichen Experten eine Aufzeichnung von Entscheidungen in schwierigen Szenarien angezeigt, ohne zu wissen, ob der Entscheidungsträger eine KI oder ein Mensch war.  

Die Arbeiten an diesem Vertrag, der von DARPA und dem Air Force Research Lab gesponsert wird, werden in durchgeführt Cambridge, Massachusetts; Dayton, Ohioeschriebenen Art und Weise; und Anniston, Alabama.

Über Raytheon BBN 

Raytheon BBN wurde 1948 gegründet und bietet Spitzentechnologieforschung und -entwicklung mit Schwerpunkt auf nationalen Sicherheitsprioritäten. Vom ARPANET bis zur ersten E-Mail setzt Raytheon BBN konsequent auf fortschrittliche Forschung, um innovative Lösungen für seine Kunden zu entwickeln. Raytheon BBN geht Risiken ein und stellt Konventionen in Frage, um Lösungen in den Bereichen Analytik und maschinelle Intelligenz, Netzwerke und Sensoren, intelligente Software und Systeme sowie physikalische Wissenschaften zu entwickeln.

Über RTX

RTX ist das weltweit größte Luft-, Raumfahrt- und Verteidigungsunternehmen. Mit mehr als 180,000 Mitarbeitern weltweit verschieben wir die Grenzen von Technologie und Wissenschaft, um die Art und Weise neu zu definieren, wie wir unsere Welt verbinden und schützen. Durch branchenführende Unternehmen – Collins Aerospace, Pratt & Whitney und Raytheon – treiben wir die Luftfahrt voran, entwickeln integrierte Verteidigungssysteme für den operativen Erfolg und entwickeln Technologielösungen und Fertigung der nächsten Generation, um globale Kunden bei der Bewältigung ihrer kritischsten Herausforderungen zu unterstützen. Das Unternehmen mit einem Umsatz von 2022 Milliarden US-Dollar im Jahr 67 hat seinen Hauptsitz in Arlington, Virginia.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Automobil / Elektrofahrzeuge, Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• ChartPrime. Verbessern Sie Ihr Handelsspiel mit ChartPrime. Hier zugreifen.
• BlockOffsets. Modernisierung des Eigentums an Umweltkompensationen. Hier zugreifen.
• Quelle: https://www.darkreading.com/operations/darpa-taps-rtx-to-attune-ai-decisions-to-human-values