Storbritannien beskriver planer på att reglera AI-startups

Från mästare i det digitala universum till pariafigurer som säljer en maskindominerad dystopi. Tja, det är kanske inte riktigt den resa som AI-utvecklare har varit på, men under de senaste månaderna har debatten kring fördelarna och riskerna förknippade med verktyg för artificiell intelligens intensifierats, delvis underblåst av Chat GPTs ankomst till våra stationära datorer. Mot denna bakgrund har den brittiska regeringen publicerat planer på att reglera sektorn. Så vad kommer detta att betyda för startups?

Vid framläggande av förslag till förordning ramverkhar regeringen lovat en lätt känsla, innovationsvänligt tillvägagångssätt samtidigt som man tar itu med allmänhetens oro.

Och nystartade företag som arbetar inom sektorn var förmodligen lättade över att höra regeringen tala om möjligheterna snarare än att betona riskerna. Som vetenskaps-, innovations- och teknikminister, Michelle Donelan uttryckte det i sitt förslag till de publicerade förslagen: “AI levererar redan fantastiska sociala och ekonomiska fördelar för riktiga människor – från att förbättra NHS-sjukvården till att göra transporter säkrare. De senaste framstegen inom saker som generativ AI ger oss en inblick i de enorma möjligheter som väntar oss inom en snar framtid.”

Så med tanke på behovet av att hjälpa brittiska AI-startups – som tillsammans lockade mer än 4,65 miljarder dollar i VC-investeringar förra året – har regeringen hållit sig undan från att göra alltför radikalt. Det kommer ingen ny regulator. Istället kommer kommunikationsvakthunden Ofcom och Competitions and Market Authority (CMA) att dela på det tunga lyftet. Och tillsyn kommer att baseras på breda principer om säkerhet, transparens, ansvarsskyldighet och styrning, och tillgång till upprättelse snarare än att vara alltför föreskrivande.

Ett smörgåsbord av AI-risker

Ändå identifierade regeringen ett smörgåsbord med potentiella nackdelar. Dessa inkluderade risker för mänskliga rättigheter, rättvisa, allmän säkerhet, samhällelig sammanhållning, integritet och säkerhet.

Till exempel kan generativ AI – teknik som producerar innehåll i form av ord, ljud, bilder och video – hota jobb, skapa problem för pedagoger eller producera bilder som suddas ut gränserna mellan fiktion och verklighet. Beslutande AI – som ofta används av banker för att bedöma låneansökningar och identifiera möjliga bedrägerier – har redan kritiserats för att ge resultat som helt enkelt återspeglar befintliga fördomar i branschen, vilket ger ett slags validering för orättvisa. Sedan finns det förstås den AI som kommer att underbygga förarlösa bilar eller autonoma vapensystem. Den typen av programvara som fattar beslut på liv eller död. Det är mycket för tillsynsmyndigheter att få sina huvuden runt. Om de gör fel kan de antingen kväva innovation eller misslyckas med att ta itu med verkliga problem.

Så vad kommer detta att betyda för startups som arbetar inom sektorn. Förra veckan pratade jag med Darko Matovski, VD och medgrundare av CausaLens, en leverantör av AI-drivna beslutsverktyg.

Behovet av reglering

“Reglering är nödvändig”, säger han. “Alla system som kan påverka människors försörjning måste regleras.”

Men han erkänner att det inte kommer att bli lätt, med tanke på komplexiteten i mjukvaran som erbjuds och mångfalden av teknologier inom sektorn.

Matovskis eget företag, CausaLens, tillhandahåller AI-lösningar som underlättar beslutsfattande. Hittills har satsningen – som förra året samlade in 45 miljoner dollar från VCs – sålt sina produkter till marknader som finansiella tjänster, tillverkning och hälsovård. Dess användningsfall inkluderar prisoptimering, supply chain optimering, riskhantering inom den finansiella tjänstesektorn och marknadsmodellering.

Inledningsvis bör programvara för beslutsfattande inte vara kontroversiell. Data samlas in, crunchas och analyseras för att göra det möjligt för företag att göra bättre och automatiserade val. Men naturligtvis är det kontroversiellt på grund av risken för inneboende fördomar när programvaran är “tränad” för att göra dessa val.

Så som Matovski ser det är utmaningen att skapa mjukvara som eliminerar partiskheten. “Vi ville skapa AI som människor kan lita på”, säger han. För att göra det har företagets tillvägagångssätt varit att skapa en lösning som effektivt övervakar orsak och verkan löpande. Detta gör det möjligt för programvaran att anpassa sig till hur en miljö – säg en komplex försörjningskedja – reagerar på händelser eller förändringar och detta tas med i beslutsfattandet. Tanken är att beslut fattas utifrån vad som faktiskt händer i realtid.

Den större poängen är kanske att startups måste tänka på att ta itu med riskerna förknippade med deras speciella smak av AI.

Hålla takten

Men här är frågan. Med dussintals, eller kanske hundratals AI-startups som utvecklar lösningar, hur hänger tillsynsmyndigheterna med i takten i den tekniska utvecklingen utan att kväva innovation? Det har trots allt visat sig vara svårt nog att reglera sociala medier.

Matovski säger att teknikföretag måste tänka i termer av att hantera risker och arbeta öppet. “Vi vill ligga före regulatorn”, säger han. “Och vi vill ha en modell som kan förklaras för tillsynsmyndigheter.”

Regeringen för sin del syftar till att främja dialog och samarbete mellan tillsynsmyndigheter, civilsamhället och AI-startups och scaleups. Det står åtminstone i vitboken.

Rum på marknaden

Vid utformningen av sina regleringsplaner är en del av den brittiska regeringens avsikt att komplettera en befintlig AI-strategi. Nyckeln är att erbjuda en bördig miljö för innovatörer att få dragkraft på marknaden och växa.

Det väcker frågan om hur mycket utrymme det finns på marknaden för unga företag. Den senaste publiciteten kring generativ AI har fokuserat på Googles Bard-programvara och Microsofts relation med Chat GPT-skaparen OpenAI. Är detta en marknad för stora teknikspelare med djupa fickor?

Matovski tror inte. “AI är ganska stort”, säger han. “Det finns tillräckligt för alla.” Han pekar på sitt eget hörn av marknaden och hävdar att “kausal” AI-teknik ännu inte har utnyttjats fullt ut av de större aktörerna, vilket lämnar utrymme för nya företag att ta marknadsandelar.

Utmaningen för alla som arbetar på marknaden är att bygga upp förtroende och ta itu med medborgarnas och deras regeringars genuina oro?