Anthropic, OpenAI en Musk roepen op tot 'vertraging en regulering hele AI-industrie', maar vertrouwt u het?

Niet de eerste oproep van z'n soort, maar wel de zwaarste

Het is in de AI-industrie onder de grote spelers als zo'n drie jaar modieus om op te roepen tot vertraging en regulering van de wapenwedloop. Laatst meldde Anthropics chef Veiligheid nog doodleuk dat hij de kans 'groter dan 10%' acht dat AI de mensheid binnen 10 jaar vernietigt, en gisteren deed de CEO van Anthropic de bovenstaande oproep. Die oproep komt neer op de waarschuwing dat 1) AI's 'frontiermodellen' zeer binnenkort niet meer te beheersen zijn, omdat die modellen hun eigen opvolgers bouwen, in plaats van dat mensen het doen: "My first concern is that, since roughly this summer, AI has been advancing drastically faster, driven primarily by AI’s growing ability to build the next generation of AI. This dynamic is called recursive self-improvement, and it is starting to happen across the industry, including at Anthropic, as we and others have described. Left unchecked, it could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all." En 2) de aanbeveling tot vergaande vertraging van AI-ontwikkeling en regulering vanuit overheden. 

Klinkt nobel, maar ten eerste is 'waarschuwen' voor hoe 'gevaarlijk' je AI-modellen zijn tegelijk een verdekte vorm van marketing. Immers, die modellen kunnen alleen zo gevaarlijk zijn als ze een absurde kwaliteit hebben, en dat is uiteindelijk toch precies waar de grootste afnemers naar op zoek zijn. TEN TWEEDE, en misschien nog wel belangrijker: de oproep tot strenge regulering is een verdekte aanzet tot een soort Anthropic/OpenAI/xAI-kartel (zie Altman en Musk onderstaand). Want alleen de grootste namen het zich kunnen veroorloven om "employee-like access to a team of embedded third-party evaluators (such as METR)" te bieden, "whose role is to verify adherence to safety practices and commitments, report incidents, and help assess the alignment of not just completed AI models but training pipelines and processes." Kleinere bedrijven die per Open Source-modellen de concurrentie aan willen gaan met de grote namen, worden hiermee geknieschijft.

Ook is het de brief een oproep om de grootste bedrijven de facto een soort federale overheids-ondernemingen te maken, met permanente overheidsteams ter controle: "The most effective method of pacing is via regulation that targets all US frontier AI companies, as that covers even those who are unwilling to cooperate voluntarily. Anthropic has long supported sensible and targeted AI regulation, specifically bills that focus on transparency and on third-party auditing. I believe all frontier labs should partner with government to formalize the idea of permanent embedded evaluators to better prevent and document internal alignment incidents like those that have occurred in the last few months, and to implement regulation focused on keeping capabilities in balance with safety."

Maar zoals het bekende militaire gezegde luidt: 'tracers work both ways', en zo'n vergaande vervlechting kan een dusdanige kruisbestuiving opleveren dat uiteindelijk vervaagt wie er nou eigenlijk wie reguleert, en het AI Industrial Complex een soort vierde tak van de overheid wordt.

Naschrift 10:17 - Een terechte vraag die nogal rondzingt: "If Sam Altman, Dario Amodei, and Elon Musk all agree that we have to slow down - and now - something serious clearly happened with a frontier AI model. Journalists should be digging in to this. We aren’t getting the whole story here."