CAMBRIDGE, Mass., Août 10, 2023 / PRNewswire / - RTX (NYSE : Extension RTX) La division BBN a reçu un contrat pour soutenir le "Dans Le Moment” programme. L'IMT vise à développer les bases nécessaires à des algorithmes fiables pour prendre des décisions de manière indépendante dans des scénarios tels que le triage massif de blessés et les secours en cas de catastrophe, où des décisions complexes et rapides sont nécessaires dans des situations dynamiques où il n'y a souvent pas de consensus humain et pas de bonne réponse claire.
« ITM ne se limite pas à demander à l'IA de fournir la bonne réponse dans des scénarios très contrôlés. Nous ne parlons pas de former l'IA sur des données étiquetées pour aider à identifier une tumeur cancéreuse sur une radiographie », a déclaré Alice Leung, Chercheur principal de Raytheon BBN. "Ce que nous essayons d'accomplir à la place, c'est la capacité de créer des systèmes d'IA que les humains permettraient de prendre des décisions de manière indépendante dans des environnements non contrôlés. Pour ce faire, nous devons déterminer comment les experts humains prennent des décisions vraiment difficiles et évaluer s'il faut faire confiance aux décisions des autres. Nous mènerons à la fois des recherches sur la prise de décision et des recherches sur la confiance.
L'équipe dirigée par Raytheon BBN, qui comprend Kairos Research, MacroCognition et Valkyries Austere Medical Solutions, utilisera une technique d'entretien cognitif pour comprendre comment les experts - dans ce cas, les professionnels de la santé et les premiers intervenants - évaluent les informations et font des compromis difficiles pour agir de manière décisive aux points de décision critiques. Ces informations qualitatives seront utilisées pour concevoir des expériences basées sur des scénarios afin d'étudier comment les différences dans les attributs décisionnels d'un individu peuvent expliquer ses choix, et comment l'alignement des attributs entre deux personnes différentes influe sur la volonté de déléguer des décisions à une autre. Cela permettra à l'IA d'être réglée pour correspondre à une population d'experts, ou même d'être réglée pour correspondre à un expert individuel.
"Parce que la façon dont nous prenons des décisions varie d'une personne à l'autre, il est peu probable qu'un modèle d'IA fiable et unique existe", a déclaré Leung. « Au lieu de cela, en théorie, nous devrions être capables de créer des systèmes d'IA qui s'adaptent à l'utilisateur et au domaine. Les décisions sont difficiles en raison de l'incertitude et des compromis entre des objectifs concurrents. Nous voulons être en mesure d'ajuster les attributs d'une IA tels que la tolérance au risque, la concentration sur les processus ou la volonté de modifier les plans pour mieux correspondre à un utilisateur ou à un groupe d'utilisateurs. »
La DARPA rassemble plusieurs équipes pour collaborer sur ce programme. D'autres équipes se concentreront sur le développement de prototypes de décideurs en IA qui commencent par des connaissances de base et peuvent ensuite être ajustés pour correspondre à un ensemble d'attributs cibles. Les produits de recherche de ce programme seront intégrés et évalués pour déterminer dans quelle mesure les agents algorithmiques ont été capables de prendre des décisions cohérentes avec les attributs humains cibles face à des scénarios difficiles. Le programme testera également si les experts humains font confiance à ces agents alignés plutôt qu'aux agents de référence ou à d'autres humains réels. Dans ces évaluations de programme de confiance, les experts humains verront un historique des décisions dans des scénarios difficiles sans savoir si le décideur était une IA ou un humain.
Les travaux sur ce contrat, qui est parrainé par la DARPA et l'Air Force Research Lab, est en cours d'exécution dans Cambridge, Massachusetts; Dayton, OhioEt Anniston, Alabama.
À propos de Raytheon BBN
Fondée en 1948, Raytheon BBN propose des services de recherche et de développement de technologies de pointe en mettant l'accent sur les priorités de sécurité nationale. De l'ARPANET au premier e-mail, Raytheon BBN fait constamment évoluer la recherche avancée pour produire des solutions innovantes pour ses clients. Raytheon BBN prend des risques et défie les conventions pour créer des solutions dans les domaines de l'analyse et de l'intelligence artificielle, des réseaux et des capteurs, des logiciels et systèmes intelligents et des sciences physiques.
À propos de RTX
RTX est la plus grande entreprise aérospatiale et de défense au monde. Avec plus de 180,000 2022 employés dans le monde, nous repoussons les limites de la technologie et de la science pour redéfinir la façon dont nous connectons et protégeons notre monde. Grâce à des entreprises leaders de l'industrie - Collins Aerospace, Pratt & Whitney et Raytheon - nous faisons progresser l'aviation, concevons des systèmes de défense intégrés pour le succès opérationnel et développons des solutions technologiques et une fabrication de nouvelle génération pour aider les clients mondiaux à relever leurs défis les plus critiques. La société, avec un chiffre d'affaires de 67 milliards de dollars en XNUMX, a son siège social à Arlington, Virginie.
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Automobile / VE, Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- GraphiquePrime. Élevez votre jeu de trading avec ChartPrime. Accéder ici.
- Décalages de bloc. Modernisation de la propriété des compensations environnementales. Accéder ici.
- La source: https://www.darkreading.com/operations/darpa-taps-rtx-to-attune-ai-decisions-to-human-values
