Áhrifarík mynd

Myndin sem meðmælakerfi Netflix beinir ákaft til mín um þessar mundir heitir ‘The Social Dilemma’.

‘#2 in Iceland today’

…svo það eru greinilega fleiri sem hafa áhuga á þessu efni.

Samfélagsmiðlar eru ekki eingöngu jákvætt afl í tilverunni.

Það er á flestra vitorði nú til dags.

Falsfréttir, bergmálsherbergi, upplýsingaóreiða og samfélagsmiðlafíkn eru vel þekkt nýyrði í íslenskri tungu og lýsa því neikvæða sem m.a. fer fram á samfélagsmiðlum.

Viðskiptamódel á villigötum?

Það er viðskiptamódel samfélagsmiðla sem er einkum að flækjast fyrir okkur. Segja má að leikreglurnar hafi verið illa útfærðar eða vanhugsaðar í upphafi og nú 10–20 árum síðar þurfum við að fást við afleiðingarnar, t.d. upplýsingaóreiðu og falsfréttir sem valda sundrungu í samfélaginu og faraldur kvíða og þunglyndis meðal ungs fólks.

Viðskiptamódel og þar með markmið samfélagsmiðilsins er skýrt: að selja auglýsingar og kostað efni. Því meira því betra. Eðlilega.

Viðskiptavinir samfélagsmiðla eru því auglýsendur og framleiðendur efnis, t.d. fyrirtæki, stjórnmálaöfl, stjórnvöld og hagsmunasamtök.

Notendurnir eru söluvaran.

Söluvaran er athygli okkar og þær hegðunarbreytingar sem eiga sér stað í kjölfar þess að við upplifum eitthvað á samfélagsmiðlum. Eins og einn viðmælandinn í myndinni lýsti samfélagsmiðlum “”.

Samfélagsmiðill hefur milligöngu um að hafa áhrif á hegðun notenda í samræmi við markmið auglýsenda. Markmiðin auglýsenda eru alls konar og engin leið að stjórna þeim. Allt frá bónda í Biskupstungum sem selur hrossasperðla beint frá býli til herra Pútíns í Kreml sem á sér þann draum að sjá Vesturlönd hnigna.

Facebook er áhrifamesti miðillinn og breytir hegðun fleiri notenda en nokkur annar á hagkvæman hátt á grundvelli gagnasöfnunar á skala sem ekki hefur þekkst áður og hagnýtingu gervigreindar. Þar er kominn fram mergur málsins og grundvallarmunur á samfélagsmiðlum og hefðbundum fjölmiðlum sem hafa stundað þá iðju að selja auglýsendum aðgang að okkur í a.m.k. 100 til 150 ár flestum til gagns og þónokkurs gamans.

Gögn Facebook geyma vísbendingar um vonir okkar, væntingar og þrár og gervigreindarlausnar eru nýttar til að draga þær fram og í kjölfarið tengja okkur við auglýsingar og efni sem snerta streng í okkur og eru því líklegri en ella til að framkalla hegðunarbreytingar. Og rúsínan í pylsuendanum er snjöll hagnýting þekkingar í sálfræði til að brjóta mögulegar varnir okkar á bak aftur eða sveigja fram hjá þeim. Sé þetta látið malla um nokkurn tíma fara að koma fram ófyrirséðar afleiðingar eins og t.d. útbreiðsla öfgafullra skoðana og skoðana sem eiga sér ekki stoð í raunveruleikanum.

Eftir því hefur verið tekið. Og glundroðinn eykst.

Þess vegna tala ýmsir um “” í þessu sambandi. Samfélagsmiðlarnir eru í krafti gagna, gervigreindar og sálfræði farnir að handleika okkur eins og strengjabrúður. Og hver stjórnar? Jú auglýsendur með alls kyns markmið, t.d. hrossabóndi í Biskupstungum og herra Pútín í Kreml.

Í myndinni kemur fram sú skoðun að við, notendurnir, getum ekki unnið þennan leik. Við eigum við ofurefli að etja í formi gervigreindar sem þekkir okkur betur en við sjálf. Og markmið hennar er ekki að auka lífsfyllingu okkar, þvert á móti. Hún gerir allt sem hún getur til að skapa miðlinum tekjur.

Og afleiðingarnar blasa við okkur. Íslensku nýyrðin sem listuð voru hér að ofan koma fyrst upp í hugann. En einnig mikil vanlíðan meðal stórs hóps ungra notenda.

Myndin er áhugaverð og hvet ég sem flesta til að horfa á hana og mynda sér skoðun.

Við þurfum að endurhugsa markmiðin

Stuart Russell skrifaði bókina ‘’.

Þar fjallar hann um þann vanda sem gervigreindarlausnir geta komið okkur í og hvað er til ráða.

Þetta kvót hér að neðan er fulllangt en mér fannst það fanga alvarleika málsins mjög vel. Ef jafnvel ‘einföld’ eða ‘veik’ gervigreind samfélagsmiðla getur valdið slíkum usla á heimsvísu hvað gerist þá þegar við hleypum enn greindari lausnum út í þennan heim með markmið sem ekki eru ‘’…

Þroskasaga nýrrar tækni

Og hver er þá niðurstaðan? Er hægt að kenna gervigreindinni um þetta? Er hún vondi kallinn?

Eða eru það illa hugsuð viðskiptamódel og markmið?

Eins og svo oft áður þá er varla skynsamlegt að kenna tólinu sjálfu um. Og viðskiptamódelið má kalla barn síns tíma. Því þyrfti að breyta.

Það mætti líklega líta á þetta sem kafla í þoskasögu nýrrar tækni.

Kafla sem við ætlum okkur að læra af.

Heimurinn er smám saman að átta sig á því að gervigreindartæknin er öflug og verður sífellt öflugri. Hún er komin til að vera og hafa áhrif á okkur öll. Þá er eins gott að við tryggjum að markmið hennar séu okkur hagstæð — ‘’ eins og Russel orðar það.

Það er verkefni næstu ára og krefst alþjóðlegrar samvinnu og aðkomu fólks með fjölbreyttan bakgrunn og skoðanir.

Þetta blogg birtist upphaflega á Linkedin

Framtíðin er gagnadrifin

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store