Waarom experts zeggen dat we AI nu moeten controleren

Belangrijkste leerpunten

• Nieuw onderzoek suggereert dat er misschien geen manier is om superslimme kunstmatige intelligentie te beheersen.
• Een tijdschriftartikel stelt dat het beheersen van AI veel geavanceerdere technologie zou vereisen dan we momenteel bezitten.
• Sommige experts zeggen dat echt intelligente AI er eerder kan zijn dan we denken.

Als mensen ooit superslimme kunstmatige intelligentie ontwikkelen, is er misschien geen manier om het te beheersen, zeggen wetenschappers. AI wordt al lang aangeprezen als een remedie voor alle problemen van de mensheid of als een Terminator-stijl apocalyps. Tot nu toe komt AI echter niet in de buurt van intelligentie op menselijk niveau. Maar het aan de lijn houden van geavanceerde AI kan een te complex probleem zijn voor mensen als het ooit wordt ontwikkeld, volgens een recent artikel gepubliceerd in de Tijdschrift voor onderzoek naar kunstmatige intelligentie. “Een superintelligente machine die de wereld bestuurt, klinkt als sciencefiction”, zei Manuel Cebrian, een van de co-auteurs van de krant, in een persbericht. “Maar er zijn al machines die bepaalde belangrijke taken zelfstandig uitvoeren zonder dat programmeurs volledig begrijpen hoe ze het hebben geleerd. De vraag rijst dan ook of dit op een gegeven moment oncontroleerbaar en gevaarlijk kan worden voor de mensheid.”

Binnenkort beschikbaar in een supercomputer bij jou in de buurt

Het tijdschriftartikel stelt dat het beheersen van AI veel geavanceerdere technologie zou vereisen dan we momenteel bezitten. In hun onderzoek bedacht het team een ​​theoretisch inperkingsalgoritme dat ervoor zorgt dat een superintelligente AI onder geen enkele omstandigheid mensen kan schaden, door eerst het gedrag van de AI te simuleren en het te stoppen als het als schadelijk wordt beschouwd. Maar de auteurs ontdekten dat zo’n algoritme niet kan worden gebouwd. “Als je het probleem opbreekt tot basisregels uit de theoretische informatica, blijkt dat een algoritme dat een AI zou bevelen om de wereld niet te vernietigen, per ongeluk zijn eigen activiteiten zou kunnen stopzetten.” Iyad Rahwan, directeur van het Center for Humans and Machines van het Max Planck Institute for Human Development in Duitsland, zei in het persbericht. “Als dit zou gebeuren, zou je niet weten of het inperkingsalgoritme de dreiging nog steeds analyseert, of dat het is gestopt om de schadelijke AI in te dammen. In feite maakt dit het inperkingsalgoritme onbruikbaar.”

Echt intelligente AI is er misschien eerder dan we denken, betoogt Michalis Vazirgiannis, hoogleraar computerwetenschappen aan de École Polytechnique in Frankrijk. “AI is een menselijk artefact, maar het is hard op weg een autonome entiteit te worden”, zei hij in een e-mail aan reddingsdraad. “Het kritieke punt zal zijn of/wanneer singulariteit optreedt (dwz wanneer AI-agenten bewustzijn als een entiteit zullen hebben) en daarom zullen ze onafhankelijkheid, zelfbeheersing en uiteindelijke dominantie claimen.”

De singulariteit komt eraan

Vazirgiannis is niet de enige die de op handen zijnde komst van super AI voorspelt. Echte gelovigen in de AI-dreiging praten graag over de “singulariteit”, die Vazirgiannis uitlegt, is het punt dat AI de menselijke intelligentie zal vervangen en “dat AI-algoritmen mogelijk hun bestaan ​​zullen beseffen en zich egoïstisch en coöperatief gaan gedragen.” Volgens Ray Kurzweil, technisch directeur van Google, zal de singulariteit voor het midden van de 21e eeuw arriveren. “2029 is de consistente datum die ik heb voorspeld wanneer een AI een geldige Turing-test zal doorstaan ​​en daarom menselijke intelligentieniveaus zal bereiken”, vertelde Kurzweil. futurisme. “Als we ons eigen huis niet kunnen schoonmaken, welke code moeten we dan aan de AI vragen?” “Ik heb de datum 2045 vastgesteld voor de ‘Singularity’, dat is wanneer we onze effectieve intelligentie een miljard keer zullen vermenigvuldigen door te fuseren met de intelligentie die we hebben gecreëerd.” Maar niet alle AI-experts denken dat intelligente machines een bedreiging vormen. De AI die in ontwikkeling is, zal waarschijnlijk nuttiger zijn voor de ontwikkeling van geneesmiddelen en vertoont geen echte intelligentie, zei AI-consultant Emmanuel Maggiori in een e-mailinterview. “Er is een grote hype rond AI, waardoor het klinkt alsof het echt revolutionair is”, voegde hij eraan toe. “De huidige AI-systemen zijn niet zo nauwkeurig als gepubliceerd en maken fouten die een mens nooit zou maken.”

Neem nu de controle over AI

AI reguleren zodat het niet aan onze controle ontsnapt, kan moeilijk zijn, zegt Vazirgiannis. Bedrijven, in plaats van overheden, hebben controle over de middelen die AI aandrijven. “Zelfs de algoritmen zelf worden meestal geproduceerd en ingezet in de onderzoekslaboratoria van deze grote en krachtige, meestal multinationale entiteiten,” zei hij. “Het is daarom duidelijk dat de regeringen van staten steeds minder controle hebben over de middelen die nodig zijn om AI te controleren.” Sommige experts zeggen dat om superintelligente AI te beheersen, mensen computerbronnen en elektrische energie moeten beheren. “Sciencefictionfilms zoals De Matrix profetieën doen over een dystopische toekomst waarin mensen door AI worden gebruikt als bio-krachtbronnen,” zei Vazirgiannis. “Ook al is het op afstand onmogelijk, de mensheid moet ervoor zorgen dat er voldoende controle is over de computerbronnen (dwz computerclusters, GPU’s, supercomputers, netwerken/communicatie), en natuurlijk de energiecentrales die elektriciteit leveren, wat absoluut nadelig is voor de functie van AI.”

Het probleem met het beheersen van AI is dat onderzoekers niet altijd begrijpen hoe dergelijke systemen hun beslissingen nemen, zei Michael Berthold, de mede-oprichter en CEO van data science-softwarebedrijf KNIME, in een e-mailinterview. “Als we dat niet doen, hoe kunnen we het dan ‘controleren’?” Hij voegde eraan toe: “We begrijpen niet wanneer een totaal andere beslissing wordt genomen op basis van voor ons irrelevante input.” De enige manier om het risico van het gebruik van AI te beheersen, is ervoor te zorgen dat het alleen wordt gebruikt als dat risico beheersbaar is, zei Berthold. “Anders gezegd, twee extreme voorbeelden: geef AI niet de leiding over je kerncentrale waar een kleine fout catastrofale bijwerkingen kan hebben”, voegde hij eraan toe. “Aan de andere kant, AI voorspelt of je kamertemperatuur wat omhoog of omlaag moet worden aangepast, misschien het kleine risico waard is ten behoeve van het wooncomfort.” Als we AI niet kunnen beheersen, kunnen we het maar beter manieren leren, zei voormalig NASA-computeringenieur Peter Scott in een e-mailinterview. “Uiteindelijk kunnen we de beheersbaarheid van AI net zomin garanderen als die van onze kinderen”, zei hij. “We voeden ze goed op en hopen op het beste; tot nu toe hebben ze de wereld niet vernietigd. Om ze goed op te voeden, hebben we een beter begrip van ethiek nodig; als we ons eigen huis niet kunnen schoonmaken, welke code moeten we dan AI vragen om te volgen?” Maar alle hoop is niet verloren voor de mensheid, zegt AI-onderzoeker Yonatan Wexler, executive vice president R&D bij OrCam. “Hoewel de vorderingen inderdaad indrukwekkend zijn, is mijn persoonlijke overtuiging dat menselijke intelligentie niet mag worden onderschat”, zei hij in een e-mailinterview. “Wij als soort hebben behoorlijk verbazingwekkende dingen gecreëerd, inclusief AI zelf.” De zoektocht naar steeds slimmere AI gaat door. Maar het is misschien beter om te overwegen hoe we onze creaties controleren voordat het te laat is.