In een blogpost die afgelopen donderdag is gepubliceerd, Kondig het geschil aan Het introduceert veel nieuwe AI-functies in zijn app: Clyde, AutoMod AI, Conversation Summarizes, Avatar Remix en meer.
Aangedreven door OpenAI-technologie, bieden deze nieuwe AI-functies een reeks services aan Discord-servers. Clyde kan afspeellijsten aanbevelen, vragen beantwoorden, uitgebreide gesprekken voeren en meer. AutoMod AI zal uitgebreide functionaliteit hebben, “gebruikmakend van de kracht van grote taalmodellen” om regelovertredende postbewerkingen te waarschuwen terwijl de conversatiecontext wordt gevolgd. Ten slotte verzamelen gespreksoverzichten berichten van chats om samen te voegen tot een samenvatting voor degenen die er een tijdje niet zijn geweest.
Bovendien is Avatar Remix, een app waarmee “vrienden elkaars avatars kunnen remixen met behulp van generatieve beeldmodellen”, nu open source.
Deze en vele andere tools die Discord binnenkort aanbiedt, klinken nuttig. Maar stillere wijzigingen in het privacybeleid plus een diepere kijk op wat deze nieuwe tools te bieden hebben, geven een heel ander verhaal. Een die kan leiden tot ernstige schade aan Discord-gebruikers.
Privacykwesties in overvloed
Kunnen deze werken ook worden geaggregeerd door andere AI-tools en vervolgens worden omgeleid voor andere doeleinden zonder krediet of toestemming?
Het grootste probleem met deze AI-integratie is het feit dat het gepaard gaat met zeer opzettelijke wijzigingen in het privacybeleid van Discord. Het vorige privacybeleid, dat nog steeds van kracht is 26 maart 2023 (Opent in een nieuw tabblad)twee belangrijke verklaringen onder de sectie “Informatie die we verzamelen”.
De eerste stelt dat “We over het algemeen de inhoud van video- of audio-oproepen of kanalen niet opslaan” en de tweede is “We slaan ook geen uitzendinhoud op wanneer u uw scherm deelt …” U kunt de gemarkeerde zinnen in de onderstaande schermafbeelding zien.
Maar bij het bekijken van het nieuwe privacybeleid, dat van kracht wordt op 27 maart 2023 (Opent in een nieuw tabblad)Beide verklaringen zijn nu gewist, evenals de verklaring waarin wordt beweerd dat “Als we dit in de toekomst gaan veranderen (bijvoorbeeld om het gemakkelijker te maken om inhoud te modereren), zullen we dit van tevoren aan u bekendmaken”. U kunt de betreffende alinea, die is omcirkeld, zien in de onderstaande schermafbeelding.
Dit is belangrijk omdat het nu betekent dat alle informatie die Discord verzamelt niet langer wordt beschermd tegen AI-activiteit. Ja, ik begrijp dat de blogpost officieel is bewerkt om te vermelden dat “Clyde geen audio- of videogespreksgegevens van gebruikers opneemt, opslaat of gebruikt.” En nee, dat heeft nergens invloed op.
Dit komt omdat deze verklaring volledig misleidend is. In de voorgaande zin staat dat “Clyde alleen informatie kan opslaan en gebruiken zoals beschreven op onze site privacybeleid (Opent in een nieuw tabblad)“Wat, je raadt het al, doorverwijst naar het bijgewerkte privacybeleid. En dit nieuwe beleid bevat niets dat uw gegevens op enigerlei wijze beschermt tegen Clyde of andere kunstmatige-intelligentiesoftware die Discord aan de service wil toevoegen.
… Het juridisch bindende privacybeleid had kunnen worden gewijzigd om dat weer te geven, in plaats van alleen maar te worden achtergelaten voor een blogbericht.
Hier is een herinnering dat blogposts of andere niet-officiële publicaties geen enkel wettelijk gewicht hebben wanneer ze rechtstreeks in strijd zijn met onze Servicevoorwaarden, ons Privacybeleid of enig ander juridisch document dat door een bedrijf is opgesteld. Deze tactiek om de blogpost van een bedrijf rechtstreeks in tegenspraak te laten zijn met zijn eigen juridische documenten, met de bedoeling de ware inhoud van die documenten te verdoezelen, is onlangs geïmplementeerd door Wizards of the Coast in zijn mislukte poging om het te hervormen. Dungeons and Dragons Open Gaming-licentie (OGL) (Opent in een nieuw tabblad).
Dit geldt overigens ook voor AutoMod AI en conversatiesamenvatting, aangezien het enige doel van deze toolkits is om zoveel mogelijk berichten te verzamelen om hun functies uit te voeren. En wie zal zeggen wat er met deze informatie wordt gedaan?
Gevolgen van verlies van privacy
Dit kan om vele redenen een absolute puinhoop zijn voor privacy. Laat me dit voorafgaan door te zeggen dat je onder geen enkele omstandigheid berichten mag schrijven of streams mag laten zien waarin je criminele activiteiten pleegt of privé-informatie deelt op Discord. Dit is nog steeds een open internetservice en het delen van gevoelige informatie via goed versleutelde en beveiligde sites zoals Signal is geen slecht beleid.
Maar met deze enorme wijziging in het privacybeleid, verklaart Discord nu officieel en heel stilletjes dat alles wat je verzendt, deelt of uploadt, veilig is voor AI-assemblage. Want als dat het geval is, is het wettelijk bindende privacybeleid zelf gewijzigd om dat weer te geven, in plaats van alleen maar te worden overgelaten aan een blogbericht.
En gezien het feit dat veel delen van de wereld (waaronder de Verenigde Staten) burgerlijke vrijheden afschaffen, kan dit ernstige gevolgen hebben. Als je bijvoorbeeld hebt gesproken over het hebben of plannen van bepaalde medische procedures die illegaal zijn geworden waar je woont via Discord, en je meldt dit bij de autoriteiten en eist dat Discord alle gegevens overdraagt die je via deze AI-programma’s hebt verzameld, dan in overeenstemming met met het eigen beleid van Discord, zul je het meteen doen. Dit omvat nu alle gegevens die niet langer worden beschermd door hun privacybeleid.
Deze gegevensverzameling kan op andere manieren uw privacy schenden. Al deze nieuwe gegevens die nu van u kunnen worden verzameld, kunnen vervolgens worden omgezet in gegevensprofielen en worden verkocht aan derden. Dit is natuurlijk iets wat Discord al kan doen, door te stellen dat de informatie die het van u verzamelt, kan worden gedeeld met verkopers en gerelateerde bedrijven voor hun eigen zakelijke belangen. Maar nu heeft het een veel grotere set informatie om te verzamelen – dat is videochat, voicechat, live uitzending en alle andere berichten die de AI-tools verzamelen.
Of wat als jij en je vrienden naar een show of film kijken op de videostreamingdienst Discord, en dat is via een illegale site? Nu Discord ook gegevens van deze route verzamelt, kan het die informatie delen met de IP-eigenaren van alle media die u bekijkt, wat valt onder het gedeelte “naleving van onze wettelijke verplichtingen” van het privacybeleid. Zodra deze informatie is gedeeld, kunnen deze IP-houders nu diezelfde sites opsporen en aanklagen, en misschien zelfs behouden Kijkers en kijkers zijn wettelijk verantwoordelijk (Opent in een nieuw tabblad)Afhankelijk van piraterijwetten in hun land.
Het creatieve bedrijfsleven loopt gevaar
Hoewel privacyschendingen het meest flagrante onderdeel van deze hele beproeving zijn, is er nog een probleem met een van de andere nieuwe tools van Discord: de Avatar Remix-app. AI-tools zijn herhaaldelijk onder vuur komen te liggen omdat ze zonder toestemming kunstwerken verzamelen en deze gebruiken om afbeeldingen te maken onder toezicht van de gebruiker.
En vrij letterlijk, het hele punt van deze app – die nu open source zal zijn en daarom vaker dan voorheen zal worden gebruikt – is om de Discord-avatars die erin zijn geüpload aan te passen met “generatieve afbeeldingsmodellen”. Wat als je avatar een kunstwerk is dat door jezelf of iemand anders is getekend? Haalt AI afbeeldingen op die zijn geüpload naar Discord-servers?
Er is geen manier om definitief te weten, aangezien dit wordt weerspiegeld in het beleid van Discord. Het enige wat we kunnen doen, zijn vroegere en huidige experimenten met andere AI-beeldtools Ongebreidelde kunstdiefstal En het ontbreken van artiestenbescherming in die gevallen schept geen goed precedent.
Dit omvat niet eens het aantal geschreven werken dat momenteel op deze servers circuleert. Kunnen deze werken ook worden geaggregeerd door andere AI-tools en vervolgens worden omgeleid voor andere doeleinden zonder krediet of toestemming?
Laatste gedachten
Dit kan om vele redenen een absolute puinhoop zijn voor privacy.
Ik hou echt van Discord en denk dat het op dit moment een van de belangrijkste sites is. Beginnend met een eenvoudige voicechat-service voor gamers en uitgegroeid tot nog veel meer, is het een integraal onderdeel geworden van het leven van veel mensen en een manier om wereldwijd met anderen in contact te komen.
Ik maak zelf deel uit van nogal wat Discord-community’s, waaronder verschillende schrijfcommunity’s, en ik run zelfs een creatieve server die anderen aanmoedigt om hun kunst, schrijven, muziek en bewerkingen met elkaar te delen. Maar nu deze inspanningen het risico lopen te worden gestolen, is onze privacy voor video- en audiogesprekken weggenomen. Dezelfde functies die ons de vrijheid gaven om verbinding te maken, worden nu gemonitord en verzameld.
Nu, ik zou niets liever willen dan hierin ongelijk te hebben. Als dit een vals alarm blijkt te zijn, neem ik L in vrede. Maar als ik zie hoe technologiebedrijven herhaaldelijk hun gebruikersbestand zullen verraden om snel geld te verdienen, zie ik mezelf niet gelijk hebben. Vooral omdat dit niet de eerste keer is dat Discord probeert te bankieren – zoals die keer dat oprichter en CEO Jason Citron eerder NFT-integratie op het platform probeerde te pushen. Backtrack na reactie van gebruiker (Opent in een nieuw tabblad).
Het enige dat ik je op dit moment kan adviseren, is om nu naar je privacy-instellingen te gaan en deze te wijzigen. Ga naar Gebruikersinstellingen onder Discord rechts van je avatar. Klik vervolgens op Privacy en beveiliging aan de linkerkant en meld u daar af voor alle instellingen voor Hoe we uw gegevens gebruiken. U kunt de lijst in de onderstaande schermafbeelding zien.
“Subtiel charmante tv-maven. Unapologetische communicator. Onruststoker. Reiswetenschapper. Wannabe-denker. Muziekfanaat. Amateur-ontdekkingsreiziger.”