Het Amerikaanse bedrijf Anthropic, dat zich bezighoudt met artificiële intelligentie (AI), zal het tempo van de ontwikkeling van zijn AI "zoveel als nodig vertragen" om ervoor te zorgen dat elk nieuw commercieel model "echt veilig is", zo beloofde CEO Dario Amodei woensdag voor de Veiligheidsraad van de Verenigde Naties (VN). Eerder zei de CEO van concurrent OpenAI, Sam Altman, ook al dat het tempo van de ontwikkeling "extreme aandacht vereist."
Dit is de eerste keer dat het bedrijf eenzijdig toezegt het tempo te verlagen, tien dagen nadat het had opgeroepen tot een gecoördineerde vertraging onder de belangrijkste AI-spelers. Een oproep die nog niet is gerealiseerd, maar wel werd onderschreven door Sam Altman van OpenAI en Elon Musk van SpaceXAI.
Eerder zei Altman nog dat "naarmate het proces (van AI-ontwikkeling) steeds meer geautomatiseerd wordt, het tempo van de AI-verbetering snel zou kunnen versnellen".
Verschillende leiders van AI-bedrijven schoven aan op de VN-Veiligheidsraad die in New York gehouden wordt tijdens de Algemene Vergadering van de VN.
