Facebook, Google og TikTok sameinast um aðgerðir gegn djúpfölsunum og nettröllum

Nýjar starfsreglur Evrópusambandsins og alþjóðlegra tæknifyrirtækja voru kynntar í dag en þær kalla á hertar aðgerðir Facebook, Google, TikTok og Twitter gegn upplýsingaóreiðu, djúpfölsunum og fölskum notendareikningum.

Alþjóðleg tæknifyrirtæki leika stórt hlutverk í nútímasamfélagi. Leitarvélar, spjallforrit og samfélagsmiðlar hafa mikil áhrif á tilveru okkar á 21. öld; hvernig við eigum í samskiptum hvert við annað, hvernig við skipuleggjum sumarfríið, kaupum jólagjafir, kjósum í lýðræðislegum kosningum og jafnvel á það hvernig makavali okkar er háttað. Tæknifyrirtæki á borð við Meta, Alphabet og Twitter búa yfir miklu magni upplýsinga um notendur sína og með nútímatækni má nota þessar upplýsingar til að beina sérsniðnum skilaboðum að ólíkum hópum í samfélaginu og hafa þannig áhrif á skoðanir, hugmyndir og kauphegðun. Dæmi eru um að samfélagsmiðlar hafi verið misnotaðir í pólitískum tilgangi og miklu magni upplýsingaóreiðu dreift vísvitandi í þeim tilgangi að afvegaleiða umræðu og hafa áhrif á niðurstöður lýðræðislegra kosninga. Margir urðu varir við falskar og misvísandi fréttir tengdar COVID-19 þegar kórónuveirufaraldurinn reið yfir heimsbyggðina. Þá hefur verið sýnt fram á að upplýsingahernaður; skipuleg dreifing upplýsingaóreiðu sem var hliðholl rússneskum stjórnvöldum, fór fram í aðdraganda innrásar Rússa í Úkraínu, meðal annars með aukinni virkni falskra notendareikninga og yrkja („botta“) á VKontakte, einum vinsælasta samfélagsmiðlinum í Rússlandi og Úkraínu, og fleiri miðlum.

Út með upplýsingaóreiðu og gervimenni
Evrópusambandið hefur skorið upp herör gegn upplýsingaóreiðu og birti í dag, 16. júní 2022, nýjar og uppfærðar starfsreglur um aðgerðir gegn upplýsingaóreiðu: The Strengthened Code of Practice on Disinformation. Reglurnar voru unnar í samvinnu Evrópusambandsins og 34 aðila, þar á meðal stórra, alþjóðlegra tæknifyrirtækja, samtaka auglýsenda og fulltrúa staðreyndavakta. Samkvæmt þeim munu fyrirtæki, sem halda úti miðlum eins og Facebook, Google, YouTube, Twitter og TikTok, herða aðgerðir gegn upplýsingaóreiðu, þar á meðal upplýsingaóreiðu í auglýsingaefni, djúpfölsunum og fölskum notendareikningum. Fyrirtækin ætla einnig að auka gagnsæi og upplýsingagjöf í tengslum við birtingu pólitískra auglýsinga og auglýsinga um samfélagsleg málefni, efla samstarf við staðreyndavaktir í ríkjum þar sem þær eru starfræktar, veita sérfræðingum og rannsakendum aðgang að gögnum og upplýsingum í ríkari mæli en áður og vinna að því að efla miðlalæsi og gagnrýna hugsun notenda.

Tilteknar djúpfalsanir bannaðar
Djúpfölsuð myndskeið („deepfakes“) eru fölsuð myndbönd sem byggja á gervigreindartækni sem gerir kleift að láta einstaklinga virðast segja orð og setningar, sem þeir hafa aldrei látið af munni falla. Hægt er að beita djúpfölsunum og fölskum notendareikningum til að hafa skoðanamótandi áhrif á notendur samfélagsmiðla. Djúpfölsunartækni getur verið mjög sannfærandi og almenningur er oft ekki í stakk búinn til að greina þær djúpfalsanir sem kunna að birtast á samfélagsmiðlum. Þess má geta að Facebook bannaði djúpfalsanir á miðlum sínum árið 2020 en skildi þó eftir glufu í notendaskilmálum sem heimilaði djúpfalsanir í skopstælingartilgangi. Sömu sjónarmið birtast í endurnýjuðum starfsreglum tæknifyrirtækjanna, þar sem fram kemur að þau muni grípa til aðgerða gegn „malicious deepfakes“ eða djúpfalsana sem settar eru fram gagngert í þeim tilgangi að valda tjóni.

Fyrstu starfsreglurnar birtar 2018
Árið 2018 birtist fyrsta útgáfa starfsreglnanna „EU Code of Practice on Disinformation“ en þá skuldbundu fjögur alþjóðleg tæknifyrirtæki og samtök auglýsenda sig til að sporna gegn dreifingu upplýsingaóreiðu á EES-svæðinu. Þetta voru Facebook, Google, Twitter og Mozilla og síðar áttu Microsoft og TikTok eftir að bætast við hópinn. Varð þetta meðal annars til þess að Facebook opnaði Facebook Ad Library“ fyrir evrópskan markað; auglýsingasafn sem nær til allra auglýsinga sem birtast notendum á Facebook og Instagram, þar á meðal á Íslandi. Safninu er ætlað að auka gagnsæi um kaupendur pólitískra auglýsinga og inniheldur meðal annars upplýsingar um auglýsendur, markhópa og hversu miklum fjármunum er varið til auglýsinga um samfélagsleg málefni.

Samráðshópur evrópskra fjölmiðlanefnda, ERGA, sem Fjölmiðlanefnd situr í fyrir hönd Íslands, fékk síðan það hlutverk að fylgjast með því hvort farið væri eftir reglunum. Í nóvember 2021 birti ERGA skýrslu þar sem farið var yfir reynsluna af framkvæmd reglnanna og birtar tillögur að því sem betur mætti fara varðandi upplýsingagjöf og annað.

Gert er ráð fyrir að fyrirtækin fái sex mánaða aðlögunartíma til að uppfylla skyldur sínar samkvæmt nýju reglunum og verður sérstakri verkefnisstjórn komið á fót til að hafa eftirlit með framkvæmdinni. Í henni munu meðal annars sitja fulltrúar þeirra sem eru aðilar að starfsreglunum og fulltrúar ERGA, undir forystu framkvæmdastjórnar Evrópusambandsins.

Ný löggjöf ESB um stafræn málefni
Umræddar starfsreglur tæknifyrirtækjanna eru hluti af umfangsmiklum aðgerðum Evrópusambandsins sem miða að því að auka vernd netnotenda, tryggja grundvallarréttindi þeirra á netinu, auka gagnsæi og kveða á um ábyrgð alþjóðlegra tæknifyrirtækja vegna þjónustu sem beint er að neytendum í Evrópu. Þær tengjast nýrri og væntanlegri löggjöf Evrópusambandsins um stafræn málefni, sér í lagi reglugerð  um stafræn málefni (Digital Services Act, DSA) sem samþykkt var á Evrópuþinginu í apríl á þessu ári. Í starfsreglunum er sérstaklega vísað til DSA reglugerðarinnar á nokkrum stöðum og tekið fram að þeim sé ætlað að útfæra og vera í samræmi við þau markmið sem þar komi fram gagnvart stærstu tæknifyrirtækjunum, þ.e. þeim sem hafa 45 milljónir eða fleiri notendur í Evrópu.

Með DSA-reglugerðinni (Digital Services Act) verður stærstu samfélagsmiðlunum, leitarvélunum og vefmarkaðstorgunum, sem eru með starfsemi í Evrópu, lagðar sérstakar skyldur á herðar varðandi aðgerðir gegn upplýsingaóreiðu. Dæmi um slík fyrirtæki og netþjónustur eru Facebook, Instagram, Google, YouTube, Twitter og TikTok. Ásamt því að bregðast við upplýsingaóreiðu munu þessi fyrirtæki þurfa að auka vernd barna, framkvæma reglubundið áhættumat til að koma í veg fyrir misnotkun á þjónustunni og gera notendum kleift að tilkynna um ólögmætt efni og krefjast endurmats hafi efni notenda verið fjarlægt af miðlunum. Fyrirtæki sem ekki uppfylla ákvæði reglugerðarinnar gætu þurft að greiða sektir sem nema allt að 6% af ársveltu þeirra á heimsvísu.

Gert er ráð fyrir að að DSA-reglugerðin öðlist gildi í síðasta lagi 1. janúar 2024 en reglur um stærstu tæknifyrirtækin nokkuð fyrr, án þess að hárnákvæm tímasetning liggi fyrir að svo stöddu.

Bannað að hampa eigin þjónustu í leitarniðurstöðum
Áðurnefndar starfsreglur tæknifyrirtækjanna tengjast einnig drögum að reglugerð Evrópusambandsins um gagnsæi og notkun persónusniðs í pólitískum auglýsingum, sem lögð voru fram í nóvember á síðastliðnu ári. Einnig tengjast þær að vissu leyti reglugerð um rafræn viðskipti (Digital Markets Act, DMA), sem pólitískt samkomulag náðist um á Evrópuþinginu í mars á þessu ári. Reglugerð um rafræn viðskipti (DMA) inniheldur reglur um gagnsæi og viðskiptahætti stórra og fjárhagslega sterkra tæknifyrirtækja sem teljast til „hliðvarða“ á netinu í þeim skilningi að þau tengja saman stóran hóp fyrirtækja og stóran hóp viðskiptavina. Dæmi um slík fyrirtæki og þjónustur eru Amazon, Apple, Facebook, Airbnb, Booking.com, Google, Microsoft, iOS App Store og Google Play Store.

Reglugerð um rafræn viðskipti er ætlað að koma í veg fyrir að fyrirtækin misnoti sterka stöðu sína á markaði en samkvæmt henni verður þeim meðal annars skylt að veita auglýsendum nauðsynleg gögn og upplýsingar daglega og óheimilt að beina viðskiptavinum fremur að eigin þjónustu en annarra, svo fátt eitt sé nefnt. Þannig verður Google t.d. óheimilt hampa eigin þjónustu í leitarniðurstöðum leitarvélar sinnar. Fyrirtæki sem ekki uppfylla ákvæði reglugerðarinnar gætu þurft að greiða sektir sem nema allt að 10% af ársveltu þeirra á heimsvísu. Gert er ráð fyrir að DMA-reglugerðin öðlist gildi nú á sumarmánuðum og komi til framkvæmda sex mánuðum síðar.

Höf: Heiðdís L. Magnúsdóttir
heiddis@fjolmidlanefnd.is