NXTDLAB RESEARCH

In de afgelopen vijf decennia hebben veel technologische veranderingen plaats gevonden. Krachtige software is er om de wereld te domineren. We staan op het punt van een exponentiële groei waarbij veel banen zullen worden overgenomen door ‘robots’ met een slagingskans van 54%. Onze huisarts kan niet achterblijven, daarom veranderen we het imago van een nederige huisarts naar een futuristisch, medisch vakgenoot.
De toekomstige huisarts is toe aan een revolutionaire inhaalslag.

Al hoe wel huisartsen een relatief veilige positie hebben is het dus onwaarschijnlijk dat ‘robots’ het beroep van een huisarts zullen overnemen. De website willrobotstakemyjob.com (Will "Health Diagnosing and Treating Practitioners, All Other" Be Replaced By Robots?, n.d.) schat een slagingspercetace van 2%.

"COVID-19 has really been a forcing function to put the gas pedal down on change and modernize this field," Wickramasekara, CEO of the cloud-based informatics platform Benchling.

Benchling, is een platform dat life science-onderzoekers helpt bij het op afstand volgen en delen van gegevens, zij hebben een toename van 35% gezien in het platform gebruik van klanten die aan COVID-19 werken.
Er is een duidelijke vraag naar versterking.

Als we naar de afgelopen periode kijken en de getroffen maatregelingen, heeft ons zorgsysteem een grote klap gekregen tijdens de COVID-19-pandemie, terwijl ‘social-distancing’ het moeilijker maakt om doktoren persoonlijk te ontmoeten, waaronder huisartspraktijken, ontstaat er een nieuw soort fenomeen die ervoor zorgt dat mensen online onderzoek gaan doen naar kwaaltjes of symptomen. Websites, zoals AliExpress en Wish die te koop lopen met verkeerde informatie lichten daarmee naïeve internetgebruikers op. Dit kan leiden tot psychische aandoeningen.

De rol van een huisarts is om patiënten te diagnosticeren en te behandelen. Het wordt niet alleen gecombineerd met fysieke onderzoeken, maar ook met psychologische onderzoeken. Kunstmatige intelligentie (AI) kan het werk verlichten. Met behulp van algoritmen kan een robot gemakkelijk de juiste medicatie diagnosticeren en voorschrijven voor de meeste vaak voorkomende ziekten. Het gebruiken van logica, ervaring en redenering is nodig om een diagnose te stellen, maar kan een robot het emotionele deel van het behandelen van een patiënt aan? Er is meer nodig dan alleen het opsommen van symptomen om een persoon in nood te helpen; er is ook empathie, mededogen en emotioneel onderzoek voor nodig om het werk van een huisarts te doen.

Wat voor revolutie ondergaat de huisarts kijkend naar ontwikkelende trends op medisch vakgebied?

— Hoe ziet de relatie tussen mens en software eruit op de werkvloer?

— Kan een software empathie tonen en rekening houden met de
emoties van de patiënt?

— Kan een software een hypochonder uit elkaar houden van een echt
zieke patient?

Ik wil het onderzoek inleiden met het project; Euthanasia Coaster, Julijonas Urbonas (2010). Zijn onderzoek is leidend op de manier hoe ik ook mijn onderzoek zou willen aanpakken. Zijn inspirerende manier geven mij inzichten en verdiepingen van kennis.

“Prepare yourself for the fatal part of the ride.”

Euthanasia Coaster (2010) Julijonas Urbonas — http://julijonasurbonas.lt/euthanasia-coaster/

Dit artikel is gepubliceerd in: The Edge of Our Thinking, edited by Florian A. Schmidt (London: Royal College of Art, 2012, pp. 32-46)

Het project “Euthanasia Coaster, is een hypothetische doods machine in
de vorm van een achtbaan, ontworpen om met elegantie en euforie het leven van een mens te nemen.” (Julijonas Urbonas, 2010) ontworpen door Julijonas Urbonas, een promovendus aan het Royal College of Art in London.

Dat er richtlijnen in de gezondheidszorg zijn is overduidelijk. Richtlijnen en stapsgewijs symptomen op een rijtje zetten worden door iedere hulpverlener op dezelfde manier toegepast, maar is niet altijd vanzelfsprekend. Voor eenzelfde cliënt komen verschillende hulpverleners
al tot verschillende diagnoses. In het artikel wordt er gesproken over feit en vorm van euthanasie. Euthanasie wordt op verschillende manieren gecategoriseerd, waaronder vrijwillig, niet-vrijwillig of onvrijwillig en
actief of passief. De schrijver licht toe dat: “Euthanasie uitgevoerd met toestemming van de patiënt vrijwillige euthanasie wordt genoemd. Vrijwillige euthanasie is legaal in Nederland”,… “Wanneer de patiënt zelf met hulp van een arts overlijdt, wordt in plaats daarvan vaak de term
hulp bij zelfdoding gebruikt.”

Als ik het betrek tot mijn onderzoeksvraag; kunnen we dan zeggen
dat de Euthanasia Coaster geschikt is als een soortgelijke diagnose voor euthanasie? Urbonas is geen dokter of arts, maar door uitbundig onderzoek wel bekwaamt om voor een probleem een diagnose te ontwerpen. Dus hangt de beslissing dan af van iemand die daarvoor gestudeerd heeft, kunnen we een zelf een diagnose doen met een
gepaste oplossing? Het idee dat we ons leven uit handen geven en neerleggen bij een computerprogramma los van een menselijk aspect klinkt angstaanjagend.

Ons leven draait om het feit dat we uiteindelijk zullen sterven.
Dat maakt ons menselijk. Het is onvermijdelijk, maar is er een keuze
om het aangenamer te maken? Het idee van sterven of jezelf van het leven beroven vind ik onbegrijpelijk. Urbonas, beschreef zijn project:
"Het is alsof de dood is gescheiden van ons culturele leven, net zoals doodsrituelen dat zijn in onze seculiere en postmoderne westerse samenleving”. Wat ik hier uit haal is dat Urbonas een diepere
betekenis uit de zin van het leven probeert te halen. Hiermee realiseert
hij een aangename verrassing. Het schenkt ons een cadeau voor het
leven in deze hypermoderne, individualistische realiteit. Waarin we
steeds meer wegdrijven van eeuwenoude rituelen en nieuwe rituelen
voor ons zelf ontdekken.

Ik wil het onderzoek onderbreken door een luchtig project te behandelen. Ik voel een zeer sterke affiniteit met dit project. De manier van communiceren is vergelijkend met eigen gemaakt werk.

“Few people actually understand how cryptocurrency works. Here’s a film that might help you make sense of Bitcoins or, it might just make you want to play bingo. It could go either way, place your bets.”

CRYPTO BINGO (2019) Thijs Mosterman — thijsmosterman.nl/crypto-b1ng0

Het werk is gepubliceerd op de website: thijsmosterman.nl/crypto-b1ng0

Het werk hierboven is absoluut geen laagdrempelig onderwerp. Evenmin dit project. Vooral als we er vanuit gaan dat het gericht is op een doelgroep dat bingo speelt. Niet dat daar iets verkeerd aan is, maar beiden zijn een onderwerp waar maar weinig mensen zich in interesseren of willen interesseren.

Het doel van het project is nooit geweest om cryptocurrency uit te leggen, maar het functioneert als een instap-model, simpelweg ontworpen om er gaandeweg plezier mee te hebben. Een geslaagd onderdeel. De uitwerking spreekt tot de verbeelding. Het brengt een gedachtegang bij mij naar boven waarmee ik mijn onderzoeksvraag kan bevragen. “Is er veel kennis van een onderwerp nodig om tot een gepaste uitwerking te komen, of voor het stellen van een diagnose?” Misschien is dit iets te ver gezocht, maar is het ‘lot aan toeval overlaten’ niet wat ons menselijk maakt. Laten we er dan ook maar wat van maken en er plezier mee hebben.

In mijn werkwijze ga ik er niet altijd vanuit dat een project goed of fout is. Sterker nog, ik maak niet altijd de keuze. Een project of werk, al is het een reclame video van de Lidl, — moet voor mij spreken tot de verbeelding. Niet geforceerd, maar altijd op een natuurlijke wijze. Wat voor associaties komen er naar boven? En het hoeft zeker niet logisch te zijn. Het gaat om fantasie. De kracht daarvan is vele malen sterker dan jezelf bezig houden met goed of fout. Of het nou het bespreekbaar maken van een controversiële en triest onderwerp is. Of een laagdrempelig onderwerp. Het prikkelt mijn verbeelding.

Het volgende artikel koppel ik rechtstreeks aan mijn onderzoeksvraag; wat voor emotionele relatie is er tussen mens en software op werkgebied? Het herkennen van menselijke emoties is een cruciaal factor voor het diagnosticeren van cliënten.

“What does it mean to feel 47% happy and 21% surprised?”

Choose how you feel; you have seven options (2016) Ruben van de Ven — https://rubenvandeven.com/article/choose-how-you-feel-you-have-seven-options

Dit artikel is gepubliceerd in: Institute of Network Cultures, EMOTION ANALYSIS SOFTWARE Choose How You Feel; You Have Seven Options (2017) by Ruben van de Ven — http://networkcultures.org/longform/2017/01/25/choose-how-you-feel-you-have-seven-options/

In het werk van Choose how you feel; you have seven options (2016), ontworpen door Ruben van de Ven worden emoties aan de hand van gezichtsuitdrukkingen door een algoritme gemeten.

Van de Ven geeft aan in de introductie van het artikel; dat beweringen gemaakt over emotie-analysesoftware door applicatie ontwikkelaars onjuist zijn. Het gaat om de volgende claim: “Het gebruik van massale data-analyse kan een buiten-menselijk, objectief perspectief op de menselijke conditie creëren.” Hij ontkracht deze claim door het volgende te benoemen: “Emotie-analysesoftware begon als een technologie gericht op mensen met het autistische spectrum, maar lijkt te zijn verschoven naar een voornamelijk financieel verhaal.” Hij licht daarna toe dat tegenwoordig de software beschikbaar is op allerlei apparaten, zoals laptops, telefoons, auto's, televisies en zelfs reclameborden. Adverteerders willen zo lang mogelijk je aandacht bewaren. Dit is overigens het hele verdien model van advertenties op sociale media.
Dus dat adverteerders hun advertenties 'optimaliseren' voor maximale aandacht duidt aan dat emotie-analysesoftware wordt ingezet om iemands mentale toestand te meten en te objectiveren. Uit het artikel krijg ik het inzicht dat van de Ven streeft naar idealen waarmee emotie-analyse software wordt ingezet om de welzijn van de mens te verbeteren. Een citaat van Theo Gevers, professor Computer Vision en mede-oprichter van SightCorp: “Emotie-analysesoftware is de eerste stap naar een moraliteit bewuste kunstmatige intelligentie.” Dit suggereert dat van de Ven inziet is dat sommige experts in de branche zich ervan bewust lijken te zijn dat er een fragiel evenwicht is tussen de poging om goed
te doen en niet.

Het komt duidelijk overeen dat kunstmatige intelligentie (AI) oftewel ‘machine learning’ wordt getraind van menselijke kennis. Daarom kunnen we stellen dat een kunstmatige intelligentie niet kan functioneren zonder een menselijke hand, maar daarvoor moet mogelijkheden gecreëerd worden door slimme wetenschappers die zich ontwikkelen en slimme burgers die accepteren. Maar heeft het volk baat bij nieuwe ontwikkelingen op dit gebied? Of is het alleen weggelegd voor experts? Er is vraag naar een duidelijke en behapbare gedachtegang die dit
kan introduceren.

Ik wil mijn bevindingen van de vorige alinea verklaren middels het volgende artikel. Dit artikel is een advies rapport voor de nieuwe ontwikkelingen op medisch gebied van de 21e eeuw.

“If the 21st century really is going to be the "age of biology," as some experts have predicted, the field needs to undergo its own version of the Industrial Revolution.”

Dit artikel is gepubliceerd in: The 21st Century: The Age of Biology by Professor Anne Glover CBE Chief Scientific Adviser to the President of the European Commission (Paris, 2012) — http://search.oecd.org/sti/emerging-tech/A%20Glover.pdf?utm_source=newsletter&utm_medium=email&utm_campaign=newslett
er_axiosfutureofwork&stream=future

Het artikel wordt ingeleid met de verklaring dat wetenschappelijk en technologisch onderzoek door de eeuwen heen forse vooruitgang boekt.
De 19e eeuw met doorbraken op technisch gebied, zoals de revolutionaire stoomtrein. De 20e eeuw met scheikunde en natuurkunde, zoals het röntgenapparaat. En de 21e doorbraken op het gebied van biologie, zoals de vondst van CRISPR een familie van DNA, gevonden in organismen zoals bacteriën en archaea.

Het artikel spreekt algemeen over het volgende; dat life-sciences een sleutelrol speelt bij het aanpakken van wereldwijde uitdagingen. Daarvoor is communicatie essentieel. “Er zal proactief moeten gecommuniceerd worden, zo niet zullen anderen deze ‘leegte’ vullen.” Hiermee wordt bedoeld dat wanneer de wetenschap wordt misbruikt of er bewijs is dat het genegeerd wordt er sterk tegen opgetreden moet worden. — “We moeten een taal spreken die iedereen begrijpt, empathie tonen voor publieke zorgen en vermijden dat het gezien wordt als arrogant.”

Na inzicht van het artikel is het bedoeld om de Europese commissie te aanmoedigen tot het nemen van actie. Het artikel dat is gepubliceerd in 2012 komt over als een opwekking voor technologische innovatie. Dit komt des te meer tot zijn recht bij de slotverklaring: “Welkom in het tijdperk van de biologie!”. Ik vraag mij af wat is gedaan met het rapport. De gewone burger heeft er tenminste niet veel van meegemaakt. Het lijkt vooral een promotie voor het subsidiëren van projecten en ontwikkelingen.

Het volgende rapport vindt uit wat deze verschillende vereisten en verlangens zijn in die ik behandel in mijn onderzoeksvraag; het ontdekken van complexe interacties tussen de mens, machine, ruimte en context te begrijpen en hoe we die kunnen creëren op een zinvolle manier.

"We're moving away from designing labs for people to designing them for the tools we use."

Dit rapport is gepubliceerd in: Future of Labs, by ARUP ( London, 2020) —https://www.arup.com/perspectives/publications/research/section/
future-oflabs__hstc=233546881.2bfcdbc6a010eea91407eff1f92bb75a.1557939551
858.1602697700517.1603210133065.272&__hssc=233546881.1.1603210
133065&__hsfp=1576065582&utm_campaign=AM_20200716_Arup%2
0Live%20Events&utm_medium=email&utm_content=97863089&utm_s
ource=hs_email&stream=future

In het rapport stelt ontwerpbureau Arup dat de toekomst van wetenschappelijke labs steeds meer geautomatiseerd en gedigitaliseerd zullen worden, waardoor onderzoekers op afstand experimenten kunnen uitvoeren en hun werk sneller kunnen opschalen, maar voordat dit kan gebeuren zal het traditionele laboratoriums moeten verlaten. De groei van robotica en digitalisering kan daarbij helpen. “Digitalisering verandert ons hele leven, en het verandert ook de manier waarop we aan wetenschap doen”, zegt Jennifer DiMambro, Arup's wetenschappelijke en zakelijke leider. “We gaan niet langer laboratoria voor mensen ontwerpen, maar ontwerpen voor de tools die we gebruiken.” Dit betekent labs waar experimenten kunnen worden geautomatiseerd, zoals robotarmen, het niet langer meer gedaan hoeft te worden door werknemers. Slimme faciliteiten, zoals virtuele labs kunnen alles volgen wat in een laboratorium wordt gedaan. Het verzamelen van gegevens wordt geautomatiseerd en onderzoekers snelheid kunnen maximaliseren. Daarnaast zijn ze op afstand toegankelijk via de cloud. Experimenten kunnen snel worden opgezet volgens de behoeften van een onderzoeker. “We hebben nu klanten die robots kunnen gebruiken om duizend experimenten tegelijk uit te voeren die in het verleden handmatig zouden zijn gedaan”, zegt Saji Wickramasekara, de CEO van het cloud gebaseerde informatica-platform Benchling.

De bevindingen gemaakt in dit rapport spreken over een futuristische toekomst waarin laboratoriums een eigen revolutie ondergaan. Dat gezegd, ben ik ervan overtuigd dat deze toekomst niet zo ver weg ligt, maar er een hoop voor moet worden omgegooid. Het gaat erom dat praktijken openstaan voor deze ontwikkelingen. Het zijn ontwikkelingen waarbij een hoop budget vrij gemaakt voor moet worden. Het rapport benoemt allerlei criteria die ruimte bieden voor vrije interpretatie. Dit geeft mij de bevestiging dat als ik mijzelf ga concentreren naast bestaande denkpatronen er nieuwe inzichten kunnen ontstaan.

Ik sprak eerder over AI-aangedreven emotie-analysesoftware met het werk van Ruben van de Ven en bevraagde ik mijzelf of het belangrijk is dat deze software verder wordt ontwikkelend: “heeft het volk baat bij deze nieuwe ontwikkelingen?” Nu duiken er nieuwe vormen van empathisch computergebruik op waarmee ontwikkelaars apps kunnen bouwen om de geestelijke gezondheid aan te pakken. De analyse software kan stem, tekst en zelfs de lichaamstaal van een menselijke gebruiker lezen om geestelijke gezondheid te identificeren.

“Why we confide in robots: stressed-out remote workers turn to artificial intelligence for help”

Dit artikel is gepubliceerd in: AI@Work Study 2020: As Uncertainty Remains, Anxiety and Stress Reach a Tipping Point at Work by Oracle and Workplace Intelligence. (2020) — https://www.oracle.com/a/ocom/docs/applications/hcm/2020-hcm-ai-at-work-study.pdf

Maslo.ai is een start-up die zich specialiseren in deze software, maar ik wil mij concentreren op een onderzoek die is gedaan van de effecten van emotioneel afgestemde machines op werknemers.

Uit het onderzoek onder werknemers en leidinggevenden dat door Oracle en het HR-onderzoeks- en adviesbureau Workplace Intelligence werd gepubliceerd, bleek dat 68% van de mensen aangaf dat ze liever met een robot zouden praten dan met hun manager over stress en angst op het werk. In het onderzoek komt naar voren dat 80% zei open te staan voor een robot als counselor of therapeut. “Werknemers zeiden dat robots hun geestelijke gezondheid beter kunnen ondersteunen dan mensen, omdat ze een beoordeling-vrije zone kunnen bieden”, zegt Dan Schawbel, managing partner van Workplace Intelligence. Zolang deze software blijft ontwikkelen kunnen we niet direct extreme conclusies trekken. ‘AI’ kan emoties nog niet echt voelen of verwerken, wat het effect van therapeutische robots beperkt.

Ik krijg in mijn onderzoek steeds meer in de gaten dat het bijna onmogelijk is om met logica of redenering menselijke conclusies in
acht te nemen. Soms schuilt er geen ‘bigger picture’ achter een argumentatie en werkt iets gewoon vanuit een onderbuik gevoel.
Gek genoeg delen mens en 'robot' wel een intieme, interactive verbinding die het mogelijk maakt dat we het gevoel krijgen begrepen te worden.

Als we dan spreken over deze intieme, interactieve verbinding tussen mens en 'machine' moeten we deze ook als oprecht beschouwen. Wanneer dit niet het geval is gebeurt er iets lachwekkends, dat ik aan de hand van het volgende artikel wil verklaren.

“The rise of ‘pseudo-AI': The Wonderful ‘Wizard of Oz experiment’, in which subjects interact with a computer system that subjects believe to be autonomous, but really is actually being operated or partially operated by an unseen human being."

Dit artikel is gepubliceerd in: The Rise of Fake Chatbots and Pseudo-AI by Nikita Johnson (2019) — https://blog.re-work.co/the-rise-of-fake-chatbots-and-pseudo-ai/
en in: Artificial Or Human Intelligence? Companies Faking AI by Ron Schmelzer (2020) —https://www.forbes.com/sites/cognitiveworld/2020/04/04/artificial-or-human-intelligence-companies-faking-ai/

In een eerder onderzoek belandde ik op een interessant gegeven waarmee ‘AI’ wordt misbruikt voor commerciële doeleinden. De ‘Wizard of Oz technique’ is sinds de uitvinding van Chatbots, technologische bedrijven aan het domineren. Techbedrijven die kunstmatige intelligentie willen implementeren tot bedrijven die ‘AI’ gebaseerde oplossingen willen bieden. Sommige mensen lijken zich alleen niet te realiseren dat deze AI-platformen gebruiken maken van menselijke kennis. Het fenomeen wat hierachter schuilt heet; ‘pseudo-AI’. Werknemers die stilletjes het werk van ‘bots’ doen, zodat bedrijven hun AI-interfaces kunnen promoten voor financiële doeleindes.

Een van de grootste problemen waarmee bedrijfsleiders worden geconfronteerd als het gaat om het adopteren van AI, is om te bepalen of een bedrijf echt AI gebruikt of de term gewoon als marketingstrategie gebruikt. Wie kan het zich veroorloven om een methode te gebruiken waar grote kosten worden besteed aan programmeurs, als dit goedkoper kan door het inzetten van menselijke arbeid. Het hangt af van hoeveel budget ervoor is weggelegd. Als dat niet het geval is, luid het gezegde; “Fake it till you make it.”

Eerder sprak ik al over de afhankelijkheid van menselijke kennis bij ‘AI’ ze gebruiken mensen om de algoritmen te trainen op een manier die vergelijkbaar is met situaties in het echte leven, zoals Amazon Mechanical Turk. Mensen zijn tot op zekere hoogte altijd betrokken bij AI-training, dus dat is niet ongebruikelijk. Daarnaast ben ik ervan overtuigd dat een ‘AI’ op een zekere niveau menselijke karakteristieke uitingen mag vertonen. Dit kan worden behaald door bijvoorbeeld een menselijke stem, zoals Google Maps. Dit schept een band van vertrouwen die belangrijk is bij het uiten van emoties.

Het project concentreert zich op een toekomstige scenario waarin mens en software met elkaar verweven zijn. De uitdaging is om de complexe interacties tussen de mens, software en context te begrijpen en hoe we die op een zinvolle manier kunnen creëren. Het onderzoek vindt uit wat deze verschillende vereisten en verlangens zijn.

Statement explanation

Het web bezoeken om te achterhalen wat voor symptomen jij ervaart is niet de beste manier om te doen. In mijn onderzoek komt naar voren dat specialisten op het medisch gebied met volle kracht werken aan geavanceerde software die vooruitstrevend werkt in de publieke gezondheidsbelang. Het onderzoek toont aan dat software wordt geprogrammeerd door specialisten en wetenschappers, maar altijd aangevuld worden met beschikbare informatie op het web. Het is dus altijd de vraag of het betrouwbaar is.

Online onderzoek naar beeld en taal laten zien dat er overmatig gebruik wordt gemaakt van overbodige titels en afbeeldingen. De afbeeldingen bevatten zelfs in sommige gevallen een watermerk. Wat betekent dat deze bewust worden hergebruikt van andere websites. Om het geloofwaardig over te laten komen worden er productrecensies geschreven. Ik ben verbaasd over het aantal recensies die geschreven staan bij sommige producten. Het toont aan dat internetgebruikers zich laten strikken en voorliegen.

Glover, Anne. The 21st Century: The Age of Biology. 2012, http://search.oecd.org/sti/emerging-tech/A%20Glover.pdf?utm_source=newsletter&utm_medium=email&utm_campaign=newsletter_axiosf
utureofwork&stream=future.

ARUP. Future of Labs. 2020, https://www.arup.com/perspectives/publications/research/section/future-of-labs?
__hstc=233546881.2bfcdbc6a010eea91407eff1f92bb75a.1557939551858.16026977
00517.1603210133065.272&__hssc=233546881.1.1603210133065&__hsfp=15760
65582&utm_campaign=AM_20200716_Arup%20Live%20Events&utm_medium=
email&utm_content=97863089&utm_source=hs_email&stream=future.

Johnson, Nikita. The Rise of Fake Chatbots and Pseudo-AI. 2019, https://blog.re-work.co/the-rise-of-fake-chatbots-and-pseudo-ai/.

Oracle, and Workplace Intelligence. AI@Work Study 2020 As Uncertainty Remains, Anxiety and Stress Reach a Tipping Point at Work. 2020, https://www.oracle.com/a/ocom/docs/applications/hcm/2020-hcm-ai-at-work-study.pdf.

Schmelzer, Ron. Artificial Or Human Intelligence? Companies Faking AI. 2020, https://www.forbes.com/sites/cognitiveworld/2020/04/04/artificial-or-human-intelligence-companies-faking-ai/.

Van de Ven, Ruben. Choose How You Feel; You Have Seven Options. 2017, https://networkcultures.org/longform/2017/01/25/choose-how-you-feel-you-have-seven-options/.

Mosterman, Thijs. Crypto B1NG0 . 2019, https://www.thijsmosterman.nl/crypto-b1ng0.

Urbonas, Julijonas. Designing Death: G-Design, Fatal Aesthetics, and Social Science Fiction. 2012, http://julijonasurbonas.lt/designing-death/.