Studiegids

nl en

Algoritmische besluitvorming en regulering

Vak
2022-2023

Disclaimer: in verband met de coronavirus pandemie zijn de cursusbeschrijvingen onder voorbehoud. Voor meer updates over coronavirus, lees nieuws via deze link.

Thema's: Kunstmatige intelligentie, regulering, toegepaste algoritmische besluitvorming, binnen de context van het straf-, publiek-, civiele en ondernemingsrecht.

Disciplines: Ethiek, filosofie, technologie, en recht.

Vaardigheden: Door de kennis die de student opdoet in dit vak, ontstaat begrip van de inbedding van kunstmatige intelligentie, meer in het bijzonder algoritmische besluitvorming in het recht, en krijgt de student inzicht in de wijze waarop juristen spreken, denken en handelen ten aanzien van (de impact van) deze technologie.
De student kan na het volgen van dit vak actief deelnemen aan discussies die gevoerd worden op dit gebied, een eigen mening vormen en deze op constructieve wijze delen met de groep.
De student kan reflecteren op de uitdagingen die de ontwikkelingen op het gebied van algoritmische besluitvorming teweegbrengen en deze binnen een specifieke context plaatsen.
De student ontwikkelt hierdoor vaardigheden die hem/haar in een multidisciplinaire omgeving in staat stelt te navigeren tussen verschillende perspectieven op algoritmische besluitvorming en een actieve en relevante bijdrage te leveren in een omgeving waarin dit thema speelt.

Toelatingseisen:

Dit vak is een (extracurriculaire) Honours Class: een keuzeonderdeel binnen het Honours College. Daarnaast kunnen goede derdejaars studenten die niet het Honours College programma volgen zich ook aanmelden voor de Bachelor Honours Classes. Er vindt (zo nodig) een selectie plaats o.a. op basis van motivatie en gemiddeld cijfer van de bacheloropleiding.

Beschrijving:

Algoritmische besluitvorming kan een belangrijke impact hebben op ons leven. Denk bijvoorbeeld aan de aanspraken of verplichtingen die men heeft binnen het belastingstelsel (toeslagenaffaire), het nieuws of de vele berichten die je dagelijks via sociale media of nieuwsapps krijgt aangereikt (nieuwsfeed van facebook, instagram etc.), vergunningverleningen bij stikstofuitstoot, het opsporen van fraude en criminaliteit, de schade die een zelfrijdende auto kan aanrichten in het verkeer, aanbevelingen die je ontvangt als je online aankopen doet of de robot¬rechter: een algoritme als rechtsprekend orgaan.

Al deze manifestaties hebben met elkaar gemeen dat zij - elk op individuele, eigen wijze - te maken hebben met algoritmische besluitvorming, een toepassing van Kunstmatige Intelligentie. Deze methode van besluitvorming houdt in dat algoritmen een rol spelen in het proces van informatievergaring, informatieanalyse, het kiezen van een actie (de beslissing) en/of de implementatie van de actie. Vanwege deze steeds omvangrijkere impact rijzen vragen over het evenwicht tussen aan de ene kant de bescherming van (publieke en individuele) belangen en aan de andere kant de stimulering en facilitering van innovatie en technologische vooruitgang. In het verlengde daarvan komen vragen op over risicoverdeling, de zogenoemde aansprakelijkheidsvraagstukken.

In dit vak krijgen studenten (van de diverse Honours Colleges en verschillende faculteiten) inzicht in de (juridische) vraagstukken rondom algoritmische besluitvorming en op welke wijze daar in het juridische domein mee om kan worden gegaan. Daarbij wordt aandacht besteed aan de verschillende juridische instrumenten die ter beschikking staan om (nieuwe) fenomenen te reguleren en, tegelijkertijd, op welke wijze doelstellingen die het recht beoogt te realiseren ook via het ontwerp van de technologie kunnen worden bereikt.

Aangezien het recht alleen gekend kan worden in de context van de omstandigheden waarin het functioneert, staat in dit vak de contextuele benadering centraal. Dat houdt in dat nadat de student eerst kennisneemt van wat in dit vak onder algoritmische besluitvorming wordt verstaan en welke elementen daarvan vanuit een juridische benadering relevant zijn, algoritmische besluitvorming wordt geplaatst in een context waarin verschillende juridische vraagstukken worden behandeld. Dit zijn de context van de consumentenkoop en de levering van digitale inhoud of digitale diensten, het gebruik van AI-systemen door operators, besluitvorming binnen een onderneming, besluitvorming in het veiligheidsdomein en de strafrechtketen, en besluitvorming door bestuursorganen.

Leerdoelen:

Bij het succesvol afronden van dit vak:

  • Heeft de student inzicht in de inbedding van kunstmatige intelligentie in het recht, in het bijzonder algoritmische besluitvorming;
  • heeft de student begrip van de wijze waarop juristen spreken, denken en handelen ten aanzien van (de impact van) kunstmatige intelligentie en meer in het bijzonder algoritmische besluitvorming;
  • kan de student reflecteren op de uitdagingen die de ontwikkelingen op het gebied van algoritmische besluitvorming teweegbrengen en deze binnen een specifieke context plaatsen;
  • kan de student actief deelnemen aan discussies die gevoerd worden op dit gebied, een eigen mening vormen en deze op constructieve wijze delen met de groep.

Programma

De sessies zullen plaatsvinden gedurende de zeven weken in Blok 3.
Onderwijsdagen: Maandagen van 17:15-20:00 uur. Onder voorbehoud is dit het programma:

Sessie 1 (maandag 6 februari): Introductie Artificiele Intelligentie en algoritmische besluitvorming

Sessie 2 (maandag 13 februari): Vervolg algoritmische besluitvorming en introductie regulering en techniek

Sessie 3 (maandag 20 februari): Algoritmische besluitvorming en privacy en data

Sessie 4 (maandag 27 februari): Algoritmische besluitvorming door bestuursorganen

Sessie 5 (maandag 6 maart): Algoritmische besluitvorming in het veiligheidsdomein en de strafrechtketen

Sessie 6 (maandag 13 maart): Algoritmische besluitvorming, de consumentenkoop en levering van digitale inhoud of diensten

Sessie 7 (maandag 20 maart): Algoritmische besluitvorming binnen de context van een onderneming

Deeltoets-Eindopdracht: inleveren begin april – exacte datum nader vast te stellen.

Locatie:
nader vast te stellen.

Literatuurlijst:

Omdat dit vakgebied en dit onderwerp zich zo ontzettend snel ontwikkelt, wordt de literatuur in het 1e semester 2022-23 bezien en vastgesteld.
De literatuur zal via Brightspace bekend worden gemaakt.

Studielast en werkvormen:

Dit vak is 5 EC waard, wat betekent dat de totale studielast 140 uur bedraagt:

  • Werkgroepen/seminars: 7 à 3 uur

  • Voorbereiding van de werkgroepen/seminars inclusief literatuur, journals en groepsopracht: 10-11 uur p/week

  • Eindopdracht: 40-45 uur

Aanwezigheid en participatie zijn verplicht.

Toetsing:

De toetsing is als volgt:

(1) Journal : 20 %
De student levert elke week (m.u.v. de week ‘algoritmische besluitvorming door bestuursorganen’, week 5; zie toetsvorm 2 hieronder) een journal in van 750 woorden.
Het journal bevat 2 onderdelen: (a) reflectie op de kern van de voorgeschreven literatuur (b) bespreking van een stelling waarbij argumenten voor en tegen worden geformuleerd
Tijdens elk seminar kan de inhoud hiervan worden gebruikt als onderdeel van de participatie. Eén van deze journals wordt aan het einde van het vak nagekeken én van een cijfer voorzien. Welk journal wordt nagekeken, wordt door willekeurige selectie na het inleveren van alle journals vastgesteld.

(2) Groepsopdracht: 20% Tijdens het college van de week ‘algoritmische besluitvorming door bestuursorganen’ (week 5) wordt een groepsopdracht in het kader van een casus uitgevoerd. Deze groepsopdracht wordt van een cijfer voorzien.

(3) Eindopdracht: 60% Studenten krijgen per twee- of drietal aan het einde van het vak een eindopdracht die zij gezamenlijk (thuis) maken.

De toetsing zal verder toegelicht worden tijdens de eerste bijeenkomst.

Brightspace en uSis:

Brightspace wordt gebruikt in dit vak. De registratie in Brightspace zal centraal worden gedaan.

Let op: studenten hoeven zich niet aan te melden in uSis voor de Bachelor Honours Classes. De registratie zal centraal worden gedaan.

Aanmelden

Aanmelden voor dit vak is mogelijk van 31 oktober tot en met 10 november 2022 via de Honours Academy. De aanmeldlink zal op de studenten website van de Honours Academy worden geplaatst.

Let op: studenten hoeven zich niet aan te melden in uSis voor de Bachelor Honours Classes. De registratie zal centraal worden gedaan voor begin van het vak.

Contact
Dr. F. (Francien) Dechesne: f.dechesne@law.leidenuniv.nl