Deep-Reinforcement-Lernsysteme gehören zu den leistungsfähigsten in AIinsbesondere im Bereich der Robotik. In der realen Welt stoßen diese Systeme jedoch auf eine Reihe von Situationen und Verhaltensweisen, denen sie während der Entwicklung nicht ausgesetzt waren.

In einem Schritt in Richtung Systeme, die mit Menschen zusammenarbeiten können, um ihre Ziele zu erreichen, entwickelten Forscher von Microsoft, der University of California, Berkeley und der University of Nottingham eine Methodik für die Anwendung eines Testparadigmas auf die Zusammenarbeit zwischen Mensch und KI, das in einer vereinfachten Version des Spiels Overcooked demonstriert werden kann. Spieler von Overcooked kontrollieren eine Reihe von Köchen in Küchen, die mit Hindernissen und Gefahren gefüllt sind, um Mahlzeiten auf Bestellung zuzubereiten.

Das Team behauptet, dass Overcooked, obwohl es nicht unbedingt auf Robustheitsbenchmarking ausgelegt ist, potenzielle Randfälle in Zuständen, in denen ein System in der Lage sein sollte, sowie in den Partnern, mit denen das System spielen sollte, erfolgreich testen kann. In Overcooked müssen sich Systeme beispielsweise mit Szenarien auseinandersetzen, in denen Platten versehentlich auf Zählern belassen werden und ein Partner eine Weile stehen bleibt, weil er nachdenkt oder von seiner Tastatur entfernt ist.

Oben: Screenshots aus der Testumgebung der Forscher.

Die Forscher untersuchten eine Reihe von Techniken zur Verbesserung der Systemstabilität, einschließlich des Trainings eines Systems mit einer vielfältigen Population anderer kollaborativer Systeme. Während der Experimente in Overcooked beobachteten sie, ob mehrere Testsysteme erkennen konnten, wann sie aus dem Weg gehen sollten (z. B. wenn ein Partner eine Zutat trug) und wann sie Bestellungen abholen und ausliefern mussten, nachdem ein Partner eine Weile im Leerlauf war .

Laut den Forschern sind derzeitige Tiefenverstärkungsmittel nicht sehr robust - zumindest nicht gemessen mit Overcooked. Keines der von ihnen getesteten Systeme erzielte im Videospiel mehr als 65%, was laut den Forschern darauf hindeutet, dass Overcooked in Zukunft als nützliche Metrik für die Zusammenarbeit zwischen Mensch und KI dienen kann.

"Wir betonen, dass unser primäres Ergebnis darin besteht, dass unsere [verkochte] Testsuite Informationen liefert, die möglicherweise nicht verfügbar sind, wenn nur die Validierungsbelohnung berücksichtigt wird, und dass unsere Schlussfolgerungen für bestimmte Techniken vorläufiger sind", schrieben die Forscher in einem Artikel, in dem ihre Arbeit beschrieben wurde. „Eine natürliche Erweiterung unserer Arbeit besteht darin, die Verwendung von Unit-Tests auf andere Bereiche als die Zusammenarbeit zwischen Mensch und KI auszudehnen. Eine alternative Richtung für die zukünftige Arbeit ist die Erforschung des Meta-Lernens, um den Agenten zu schulen, sich online an den spezifischen menschlichen Partner anzupassen es spielt mit. Dies könnte zu erheblichen Gewinnen führen, insbesondere bei der Robustheit der Agenten mit dem Speicher. “