Facebook’s Metaverse kan worden omzeild met diepe vervalsingen en andere desinformatie als deze non-profitorganisaties niet slagen

Facebook's Metaverse kan worden omzeild met diepe vervalsingen en andere desinformatie als deze non-profitorganisaties niet slagen

De virtual reality-wetenschapper van Mark Zuckerberg, simpelweg met de bijnaam Meta, worstelde met een aantal problemen, van technologische problemen tot problemen om werknemers vast te houden. Dit betekent niet dat het niet snel door miljarden mensen zal worden gebruikt. Meta stuitte op een nieuw probleem. Is de virtuele omgeving waar gebruikers hun eigen gezichtsontwerpen kunnen maken, voor iedereen hetzelfde? Of krijgen bedrijven en politici meer flexibiliteit om van uiterlijk te veranderen?

Rand Waltzman is hoofd informatiewetenschapper bij het non-profit RAND Institute. En hij waarschuwde vorige week dat de lessen die Facebook heeft geleerd bij het personaliseren van zijn nieuwsfeed en het toestaan ​​van zeer gerichte informatie, kunnen worden gebruikt om het identificatiepercentage te verhogen. In deze definitie kunnen luidsprekers worden aangepast om betrouwbaarder te klinken voor elk lid van het publiek. Met behulp van deepfake-technologie die realistische maar nepvideo’s maakt, kan een spreker worden aangepast om 40% van de functies van het publiek te bevatten zonder dat het publiek het weet.

Meta heeft al maatregelen genomen om het probleem op te lossen. Maar andere bedrijven aarzelen niet. De New York Times en CBC Canada lanceerden Project Origin twee jaar geleden om technologie te ontwikkelen om te bewijzen dat de boodschap van de bron kwam. Project Origin, Adobe, Intel en Sony zijn onderdeel geworden van de Alliance for Content Creation and Originality. Sommige vroege versies, waaronder de versies die de informatiebron online volgen, van Project Origin zijn al beschikbaar. Nu is de vraag: wie gaat het gebruiken?

“We kunnen uitgebreide informatie verstrekken om de bron van de informatie die ze ontvangen te verifiëren”, zegt Bruce MacCormack, senior adviseur van CBC Radio-Canada voor desinformatie-advocatuurinitiatieven en mede-oprichter van Project Origin. “Facebook moet beslissen hoeveel het in hun systeem zal verbruiken en gebruiken, en uitzoeken hoe het in hun algoritmen en systemen kan worden ingevoerd, waar we geen zicht op hebben.”

Project Origin, opgericht in 2020, is een programma waarmee kijkers kunnen bepalen en bewijzen of informatie afkomstig zou zijn van een betrouwbare nieuwsbron. Dit betekent dat er niet geknoeid is. In plaats van te vertrouwen op blockchain of een andere gedistribueerde grootboektechnologie om de beweging van informatie over het internet te volgen, zoals mogelijk zou zijn in toekomstige versies van het zogenaamde Web3, tagt de technologie informatie met gegevens over waar het vandaan komt en wat ermee beweegt zoals het wordt gekopieerd en verspreid. Hij zei dat een vroege versie van het ontwikkelingsprogramma beschikbaar is gesteld aan leden en nu kan worden gebruikt.


Klik hier Abonneren op MKB CryptoAsset & Blockchain Advisor


Meta-misinformatiekwesties zijn meer dan alleen nepnieuws. Om overlap tussen Project Origin-oplossingen en andere vergelijkbare technologieën die gericht zijn op verschillende soorten misleiding te verminderen – en om ervoor te zorgen dat oplossingen compatibel zijn – lanceerde de non-profitorganisatie in februari 2021 de Coalition for Content Creation and Authenticity om de authenticiteit van een aantal soorten intellectueel eigendom. Adobe staat op de Blockchain 50-lijst en beheert het Content Originality Initiative. Dit initiatief, aangekondigd in oktober 2021, zal aantonen dat de NFT’s die met de software zijn gemaakt, daadwerkelijk door de kunstenaar zijn gemaakt.

“Ongeveer anderhalf jaar geleden besloten we dat we echt dezelfde aanpak hadden en dat we in dezelfde richting werken”, zegt MacCormack. “We wilden ervoor zorgen dat we op één plek kwamen. We hebben geen twee concurrerende sets technologieën gebouwd.”

Meta herkent deepfakes. Gebrek aan vertrouwen in informatie is een probleem. MacCormack en Google waren medeoprichter van de samenwerking op het gebied van kunstmatige intelligentie. Deze groep, MacCormack en IBM Tips, is in september 2016 gelanceerd. Het heeft tot doel de kwaliteit van de technologie die wordt gebruikt om deepfakes te maken, te verbeteren. In juni 2020 werden de resultaten vrijgegeven van de Deep Fake Detection Challenge van het sociale netwerk. Uit deze resultaten bleek dat valse detectieprogramma’s slechts 65% succesvol waren.

Het oplossen van het probleem is niet alleen een ethisch probleem, maar zal gevolgen hebben voor een toenemend aantal bedrijfswinsten. McKinsey Research heeft geconstateerd dat metaverse investeringen voor de eerste helft van 2022 al zijn verdubbeld. Ze voorspelden ook dat de industrie tegen 2030 $ 5 biljoen waard zal zijn. Het zou deze boom in een crash kunnen veranderen.

MacCormack stelt dat de diepte van vervalste software sneller verbetert dan de uitvoeringstijd. Een van de redenen waarom ze meer nadruk legden op het vermogen van informatie om te bewijzen dat deze van de bron afkomstig was. “Als je de detectietools in het wild zou gebruiken, gewoon door de aard van hoe de AI werkt, zou het de vervalsingen beter maken. En ze verbeterden dingen heel snel, tot het punt waarop de levenscyclus van de tool of de de levensduur van de tool zou korter zijn dan de tijd die nodig is om de tool in te zetten, wat betekent dat je er helemaal niet op in kunt gaan. De markt.”

Volgens McCormack zal het probleem alleen maar erger worden. Vorige week opende een beginnende concurrent van Sam Altman’s Dall-E, Stable Diffusion genaamd, waarmee gebruikers fotorealistische afbeeldingen kunnen maken zodra ze worden beschreven, de broncode voor iedereen om te gebruiken. Volgens MacCormack betekent dit dat het slechts een kwestie van tijd is voordat de waarborgen die OpenAI implementeert om het creëren van bepaalde soorten content te voorkomen, worden omzeild.

“Dit is een soort non-proliferatie”, zegt McCormack. “Als die er eenmaal is, is die er. Dus het feit dat deze code is ingezet zonder onderpand, betekent dat de verwachting is dat het aantal kwaadaardige use-cases de komende maanden dramatisch zal toenemen.”

Leave a Reply

Your email address will not be published.