Brussel: Veel Kunstmatig, Weinig Intelligentie

, , Comments Off on Brussel: Veel Kunstmatig, Weinig Intelligentie

Oh jottem.

De EU gaat wil zich bemoeien met artificial intelligence.

NRC: Europese SER: nú meer controle op kunstmatige intelligentie.

Wat een leuke “illustratie” van Roland Blokhuizen, niet?

Roland maakt waardeloze .gifjes voor NRC Media Holding B.V.

16 bit

‘Kunstmatige intelligentie van Google verslaat Go-kampioen’, ‘Kunstmatige intelligentie neemt werk van jonge advocaten over’, ‘Haalt China de VS in met kunstmatige intelligentie?’. En dit is nog maar een kleine greep uit het wereldnieuws over kunstmatige intelligentie van de afgelopen paar weken. De snelle opmars van de techniek levert allerlei economische, maatschappelijke, geopolitieke en dus zelfs denksport-gerelateerde vragen op. Steeds meer science fiction-achtige voorspellingen komen uit.

Lightspeed? Transporters? Een Holo-Dek?

Daarom is meer politiek beleid nodig, en dan vooral meer controle op de ethische implicaties van kunstmatige intelligentie. Dat stelt het Europees Economisch en Sociaal Comité (EESC) in een woensdag aangenomen advies aan de Europese Commissie. Het EESC is de vergadering van Europese werknemers, werkgevers en maatschappelijke organisaties, enigszins vergelijkbaar met de Sociaal Economische Raad (SER).

Let op: er is “beleid” nodig, maar pas nadat AlphaGo van diverse kampioenen heeft gewonnen.

Daarvoor was er eigenlijk helemaal niets nodig.

En dan komt het.

Adviezen wegen politiek zwaar maar zijn niet bindend.

Jeetje, weer een EU orgaan wat niets te vertellen heeft?
Wat een verrassing.

„Het is nú tijd voor meer discussie en beleid,” zegt Catelijne Muller, de speciale rapporteur voor kunstmatige intelligentie van de EESC. De werkgevers en werknemers willen onder meer een verbod op wapens die zelfstandig beslissingen nemen over leven en dood op basis van kunstmatige intelligentie. Dat is een oproep die de laatste jaren door steeds meer maatschappelijke organisaties wordt gedragen.

Eens.

Daar is het echter – dankzij het StuxNet Virus – tevens een beetje te laat voor.

Ik adviseer lezers de documentaire “Zero Days” eens te bekijken.

En superintelligente wapens zijn slechts één van de gevaren. Economen waarschuwen voor banenverlies omdat kunstmatige intelligentie taken van mensen zal overnemen. Ethici wijzen op de afname van menselijke autonomie als we steeds meer belangrijke beslissingen toevertrouwen aan computers. En wat als systemen met kunstmatige intelligentie racistische afwegingen maken?

Die “racistische afwegingen” moet ik een beetje toelichten.

Joshua Racist

(Joshua is de eerste AI in een film, “Wargames”, uit 1983 red.)

Als je een basic AI loslaat op de systemen van het MinVenJ?

Dan zal die AI er binnen 0,00000001 seconden ontdekken dat een gigantisch deel van de misdaad door inwoners met een migratieachtergrond gepleegd wordt en dat er proportioneel veel meer etnische mensen strafrechtelijk vervolgd worden, taakstraffen krijgen, schuldhulp nodig hebben, sjoemelen met uitkeringen etc. Zo’n AI zal dan concluderen dat etnische mensen proportioneel meer misdadig zijn, minder sociaal, lager opgeleid, meer risico vormen etc.

Dat is natuurlijk vreselijk racistisch.

Zoals u kunt lezen heb ik daar al eens uitvoerig over geblogd.

We gaan nu kijken naar een textbook case van complete en absolute onkunde.

(Want Catelijne werkt voor de EU red.)

Het belangrijkste uitgangspunt moet volgens de EESC zijn dat er altijd een mens achter de knoppen moet zitten bij de techniek. Tegelijkertijd erkent Muller dat dat technisch gezien een nogal ingewikkeld uitgangspunt is, omdat kunstmatige intelligentie zó werkt dat het zich juist zelfstandig ontwikkelt. Per definitie zonder menselijk toezicht dus. Anders dan normale computerprogramma’s volgt kunstmatige intelligentie niet de instructies van een programmeur op, maar ontwikkelt het zijn eigen instructies door patronen te ontdekken in grote hoeveelheden data. Dat maakt het bijzonder ingewikkeld om op alle aspecten van kunstmatige intelligentie menselijke controle te houden.

Het. Staat. Er. Echt.

Het hele idee achter artificial intelligence is GEEN menselijke beslissingen.

Door machine learning, het opslokken en doorspitten van gigantische hoeveelheden data, “leert” een systeem predicties te maken en daarop in te spelen. Als je dit even loslaat op het verkeer in Amsterdam? Een AI kan zien dat er tussen 16:00-18:00 op vrijdags altijd gigantisch veel meer verkeer is rondom die Zuidas en kan dan de frequentie van stoplichten, metros en treinen aanpassen om daarop in te spelen.

Maar … Catelijne… de speciaal rapporteur voor Kunstmatige Intelligentie?

Die wil dus eigenlijk geen AI want er “moeten mensen achter de knoppen”.

Muller: „Toch moet dat het uitgangspunt zijn, omdat je op die manier kunt zorgen dat toepassingen van kunstmatige intelligentie de maatschappij dienen. Wellicht dat recente wetenschappelijke doorbraken kunnen helpen om betere controle mogelijk te maken op de instructies die kunstmatige intelligentie voor zichzelf creëert.”

Als je een basic AI loslaat op inkomsten en vermogen?

Dan zal zo’n AI concluderen dat kapitalisme een absoluut kutsysteem is.

De benefits vloeien namelijk naar the very few super rich, terwijl grote delen van de wereld verhongeren.

Als je een basic AI loslaat op Brussel?

Dan zal zo’n AI concluderen dat Brussel niet werkt voor de Europese bevolking.

Maar voor een piepklein groepje special interests.

Dat is linke soep.

Dus hebben the powers that be nu besloten dat artificial intelligence… “ethisch” moet zijn.

En wie weet er nou meer van “ethiek” dan onze Eurocraten en apparatchiks in Brussel?

Om te zorgen dat fabrikanten op een verantwoorde manier kunstmatige intelligentie ontwikkelen, wil het EESC een Europees normerings- en certificeringssysteem. Dat om te controleren of kunstmatige intelligentie voldoet aan standaarden voor „veiligheid, transparantie, begrijpelijkheid, verklaarbaarheid en ethische waarden.”

En welke "ethische waarden" zijn dat Catelijne?

Het Europees Parlement en de Europese Commissie zijn op diverse niveaus al bezig met wetgeving rondom kunstmatige intelligentie. In februari stelde het Parlement voor om fabrikanten van kunstmatige intelligentie en robots te verplichten om een kill switch in te bouwen. Dat is een soort knop die alle functies in één klap kan uitschakelen als de techniek buiten de controle van mensen dreigt te raken.

Er moeten dus mensen achter de knoppen.

En er moet een “uit” knop komen.

Off Button

(Dat is voor als Catelijne niet op ‘r knieen onder dat bureau die stekker eruit wil trekken omdat ze die leuke nieuwe kousen van Zalando aan heeft die dag red.)

Het EESC hamert er in het nieuwe advies op dat Europese overheden en bedrijven wereldwijd een voortrekkersrol moeten spelen. Dat is des te actueler na de oproep die de Duitse bondskanselier Angela Merkel afgelopen weekend deed aan Europa om onafhankelijker te worden van de VS. Juist ook op technologisch gebied is Europa vooralsnog zeer afhankelijk van de Amerikanen. Amerikaanse bedrijven lopen wat betreft kunstmatige intelligentie ver voor op Europese concurrenten. De grootste ondernemingen op dit gebied, waaronder Amazon, Apple en Google zitten sinds dit jaar samen in een overlegorgaan over de morele implicaties van kunstmatige intelligentie, waar met name Amerikaanse bedrijven de dienst uitmaken.

Ja, dat komt omdat “Europa” sinds oh, pakkumbeet 1980? compleet ligt te slapen wat betreft computers, netwerken,  communicatie, programmatuur, Internet, wireless, web 2.0, mobile en nu dus machine learning en artificial intelligence. Maar nu, met Catelijne aan het roer, gaat “Europa” dan – op basis van haar verlanglijstje aan Sinterklaas niet bindende advies – een inhaalslag maken van een slordige 40 jaar. En “Europa” doet dat, terwijl de NSA, al onze communicatie onderschept. Dat klinkt reuze plausibel.

Een van de schaarse grote Europese bedrijven van betekenis in kunstmatige intelligentie, het Britse DeepMind, werd in 2014 overgenomen door Google. China werkt hard aan alternatieven voor de Amerikaanse dominantie, maar in Europa gaat dat veel trager. Ook wat wetgeving betreft loopt Europa niet bepaald voor. En dat terwijl de ontwikkeling de komende tijd volgens de meeste experts alleen maar verder zal versnellen.

Jeetje.
Het is om depressief van te worden.

Atari Pong

Share