Zephyrnet-logo

Praktijken voor het besturen van agentische AI-systemen

Datum:

Agentische AI-systemen – AI-systemen die complexe doelen kunnen nastreven met beperkt direct toezicht – zullen waarschijnlijk breed bruikbaar zijn als we ze op verantwoorde wijze in onze samenleving kunnen integreren. Hoewel dergelijke systemen een substantieel potentieel hebben om mensen te helpen hun eigen doelen efficiënter en effectiever te bereiken, creëren ze ook risico's op schade. In dit witboek stellen we een definitie voor van agentische AI-systemen en de partijen in de levenscyclus van agentische AI-systemen, en benadrukken we het belang van overeenstemming over een reeks basisverantwoordelijkheden en best practices op het gebied van veiligheid voor elk van deze partijen. Als onze belangrijkste bijdrage bieden we een eerste reeks praktijken om de activiteiten van agenten veilig en verantwoordelijk te houden, waarvan we hopen dat ze kunnen dienen als bouwstenen bij de ontwikkeling van overeengekomen basispraktijken. We sommen de vragen en onzekerheden rond de operationalisering van elk van deze praktijken op die moeten worden aangepakt voordat dergelijke praktijken kunnen worden gecodificeerd. Vervolgens belichten we categorieën van indirecte gevolgen van de grootschalige adoptie van agentische AI-systemen, die waarschijnlijk aanvullende bestuurskaders noodzakelijk zullen maken.

spot_img

Laatste intelligentie

spot_img