Descripció del tema de la conferència

Els grans models d’intel·ligència artificial generativa (IA), com ara ChatGPT, s’han tornat extremadament populars en només uns mesos, i s’han convertit en l’aplicació en línia amb un creixement més ràpid de la història. Com a tals, sorgeixen com una força transformadora amb profundes implicacions en les democràcies i la societat civil. La IA generativa és una promesa o un perill per a les democràcies o, fins i tot, per a l’existència humana?

La conferència anual de l’EPTA explorarà els reptes socials i legals que la IA generativa planteja als responsables polítics, la societat civil i els reguladors.

Cal establir marcs reguladors per a abordar els reptes socials i democràtics de la IA generativa? O n’hi hauria prou amb la regulació general de la IA per a abordar-los? Quines característiques de la IA generativa es poden tenir en compte a l’hora d’avaluar la conveniència d’establir-hi marcs polítics i reguladors específics? Quins són els possibles beneficis, reptes i consideracions ètiques associats a l’aplicació de la IA generativa en àmbits clau com la salut o l’educació? La IA generativa està dissenyada per a desempoderar i desplaçar els treballadors? Podem com a mínim preveure l’impacte que la IA generativa tindrà en el mercat laboral?

Per a aclarir aquestes qüestions, la conferència anual de l’EPTA destacarà els tres punts centrals següents:

1. Intel·ligència artificial generativa i democràcia

Tot i que la IA generativa es pot entendre potencialment com una eina per a millorar la governança democràtica, la pot malmetre de manera crítica.

Hi ha una profunda preocupació pel que fa a la democràcia amb relació als riscos de la desinformació, l’opacitat o les notícies falses o, fins i tot, pel que fa a com afrontar el fet que les empreses tecnològiques tinguin el poder d’establir una narrativa pública, davant el risc que el pensament crític independent s’abandoni per a obtenir una resposta ràpida dels sistemes d’IA. A més, com que la majoria de la població no té un coneixement profund de la IA generativa, val la pena preguntar-se quin tipus de mandat es pot fer als legisladors i responsables polítics. En els parlaments, l’ús de la IA generativa en el treball quotidià podria ser una eina útil, però també és probable que els representants vegin les seves relacions amb el seu electorat compromeses per la IA generativa.

2. Consideracions polítiques sobre la integració de la intel·ligència artificial generativa en sectors específics

En aquesta sessió, els responsables polítics, els investigadors i les parts interessades abordaran els reptes i les oportunitats que presenta la IA generativa en sectors específics, com la salut o l’educació, i identificaran les millors pràctiques per a la integració responsable de la IA generativa en aquests àmbits.

En el sector sanitari, es preveu que la IA generativa ajudi en el diagnòstic, l’assessorament clínic i el descobriment de fàrmacs i vacunes, a més de fomentar la medicina personalitzada. Així, la IA s’està fent servir per a oferir millors diagnòstics, i la IA generativa podria substituir determinades accions clíniques per a estalviar temps als metges amb l’objectiu de millorar el servei mèdic.

Tanmateix, l’ús de la IA en medicina també comporta alguns riscos i problemes ètics. El risc de generar resultats d’IA esbiaixats (ja que la font de les dades està esbiaixada en termes d’ètnia, sexe o altres factors) o la manca de consideracions de seguretat clínica poden requerir un marc regulador. O fins i tot podria ser que la IA generativa substituís l’esforç mèdic en el diagnòstic per respostes més automatitzades?

De la mateixa manera, pel que fa a l’educació, la IA generativa pot transformar les experiències d’aprenentatge i els mètodes d’avaluació i pot generar continguts adaptats a les necessitats individuals dels estudiants. El ChatGPT d’OpenAI ha accelerat la creació d’altres eines que poden produir textos, imatges o codis informàtics d’alta qualitat amb una velocitat notable. Tanmateix, les qüestions relatives a la propietat intel·lectual, la seguretat de les dades o fins i tot l’impacte en la creativitat humana i el pensament crític podrien formar part de les preocupacions i les implicacions futures de la IA generativa per al coneixement, l’aprenentatge i la investigació, en particular en una etapa molt primerenca del procés educatiu dels éssers humans.

3. Intel·ligència artificial generativa i treball

Una de les qüestions àmpliament discutides entre els investigadors és si la IA generativa generarà un atur massiu en desplaçar la majoria de treballadors i, a més, quins en seran els efectes en termes de desigualtat social. Podem preveure una gran substitució de treballadors qualificats per algorismes d’IA? Podem esperar una creació equivalent de nous llocs de treball? La IA generativa probablement canviarà la naturalesa del nostre treball i la nostra manera de treballar. Quines eines tenim per a abordar aquesta qüestió?

GARY MARCUS, Professor Emèrit en Psicologia i Ciències Neuronals a la Universitat de Nova York

Científic, autor d’èxit, emprenedor i un referent en l’àmbit de la intel·ligència artificial, Gary Marcus ha estat director general i fundador de l’empresa emergent d’aprenentatge automàtic Geometric Intelligence, recentment adquirida per Uber.

És conegut pels seus qüestionaments de la intel·ligència artificial contemporània, havent-se anticipat a moltes de les limitacions actuals amb dècades d’antelació, i per la seva investigació en el desenvolupament del llenguatge humà i la neurociència cognitiva. Ha publicat àmpliament en camps que van des del comportament humà i animal fins a la neurociència, la genètica i la intel·ligència artificial, sovint en revistes de primera línia com Science i Nature.

Marcus va declarar davant el Comitè Judicial del Senat dels EUA al maig del 2023 sobre la necessitat de regular la intel·ligència artificial.

Professor de psicologia i ciències neuronals a la Universitat de Nova York, és autor de diversos llibres, com ara The Algebraic Mind, Kluge: The Haphazard Evolution of the Human Mind i el més venut del The New York Times, Guitar Zero. També és editor del llibre The Future of the Brain: Essays By The World’s Leading Neurocientists, amb la participació dels premis Nobel del 2014 May-Britt i Edvard Moser. El seu llibre més recent, Rebooting AI, amb la participació d’Ernest Davis, és un dels set llibres imprescindibles de la llista Forbes sobre intel·ligència artificial.

Marcus col·labora amb freqüència a The New Yorker, Wired i The New York Times

WOLFGANG HILLER, director del Servei de Recerca del Parlament Europeu responsable d’Avaluació d’Impacte i Prospectiva

Llicenciat a la Universitat d’Economia de Viena, ha treballat, entre altres tasques, com a redactor de discursos i especialista al Departament de Coordinació Econòmica de la Cancelleria Federal d’Àustria abans d’incorporar-se al Parlament Europeu el 1992.

Abans del seu nomenament per al càrrec actual l’1 de gener de 2016, va ocupar diversos càrrecs en la Comissió Europea, entre d’altres, el de cap de l’Oficina del Parlament a Viena, a la Secretaria de la Conferència de Presidents i com a membre del gabinet de la Secretaria General encarregat de les relacions interinstitucionals i de les relacions amb els parlaments nacionals.

Els serveis que són a càrrec seu tenen com a objectiu ajudar a millorar la capacitat del Parlament Europeu per a dur a terme el control i la supervisió de l’executiu, especialment mitjançant l’avaluació ex ante i ex post de la legislació de la Unió Europea, abans i després que sigui adoptada per les institucions de la Unió.

Aquesta tasca està pensada per a donar suport a les comissions parlamentàries en les etapes successives del cicle polític. Aquesta responsabilitat també inclou el suport administratiu del Grup d’Experts del Parlament Europeu dels 27 membres per al Futur de la Ciència i la Tecnologia (STOA), que proporciona assessorament científic als diputats i a les comissions parlamentàries, i també la coordinació de les activitats prospectives de la institució i la cooperació amb altres institucions d’aquest àmbit de manera més àmplia.

KARINA GIBERT, professora titular i directora del centre de recerca Intelligent Data Science and Artificial Intelligence de la Universitat Politècnica de Catalunya i degana del Col·legi Oficial d’Enginyeria Informàtica de Catalunya

Karina Gibert és llicenciada i doctora en Enginyeria Informàtica, amb especialitats en Estadística Computacional i Intel·ligència Artificial; directora i cofundadora del centre de recerca Intelligent Data Science and Artificial Intelligence (IDEAI), i degana del Col·legi Oficial d’Enginyeria Informàtica de Catalunya (COEINF).

Experta i coautora de l’Estratègia catalana per a la intel·ligència artificial de la Generalitat de Catalunya, Catalonia.ai, és membre del Comitè d’Ètica de les Dades i membre del Consell d’Administració del Programa de Salut/IA de la Generalitat de Catalunya (2023). També és assessora del Senat, assessora de la Secretaria d’Estat sobre Digitalització i Intel·ligència Artificial en ètica i intel·ligència artificial i en transformació digital, assessora de l’Organització Mundial de la Salut en la caracterització de sistemes de salut mental (2008-2010) i assessora de la Comissió Europea en ètica i intel·ligència artificial. Molt activa en la reducció de la bretxa de gènere en el sector STEAM, va fundar fins a cinc grups de treball de gènere. És ambaixadora de WiDS (Stanford) a Barcelona des del 2021 i editora de la revista Environmental Modeling and Software, Elsevier, des del gener del 2018.

Els seus principals interessos de recerca són extreure coneixement estratègic de dades i sistemes intel·ligents des d’una perspectiva ètica i explicable. És investigadora principal de projectes com ara Diet4You, INSESS-COVID19 Top Rosies Talent o ciutadanIA. Les característiques principals de la seva recerca són la multidisciplinarietat, l’externalització, la internacionalització, la transferència de tecnologia i l’ús social de la tecnologia. Premi Nacional d’Enginyeria Informàtica en Difusió Digital 2022, també ha estat guardonada amb el Premi Ada Byron 2022, el Premi donaTIC 2018, la Menció Honorífica del Premi Creu Casas 2021 i el Premi Primer Concurs HackingBullipedia 2022 (novembre del 2013).

JÉRÔME DUBERRY, director gerent del Tech Hub i investigador sènior de l’Albert Hirschman Center on Democracy

El doctor Jérôme Duberry és director general del Tech Hub, assessor acadèmic del Programa executiu en diplomàcia, negociació i elaboració de polítiques, i investigador sènior al Centre Albert Hirschman sobre Democracy (AHCD) i al Centre d’Estudis Ambientals Internacionals (CIES).

Des del 2022, Duberry codirigeix un projecte de comunicació científica sobre narració, joventut i intel·ligència artificial finançat per la Fundació Nacional de Ciència Suïssa (SNSF). Autor del llibre Artificial Intelligence and Democracy: Risks and Promises of AIMediated Citizen-Government Relations (“Intel·ligència artificial i democràcia: Riscos i promeses de les relacions entre govern i ciutadans possibilitades per IA”).

ULRIK NILSSON, membre del Riksdag (Parlament de Suècia)

Va cursar enginyeria química amb un curs preparatori en físiques a la Universitat de Tecnologia de Chalmers. A més, va completar la formació d’oficial de reserva a la KA/Naval Warfare School. Des del 2022, és membre de la Comissió de la Constitució.

En l’àmbit del servei públic va ocupar càrrecs a l’Institut Nacional de Proves i Recerca de Suècia – Institut Suec d’Investigació Tècnica del 1988 al 1998 i el 2007. També va exercir com a conseller regional de la regió de Västra Götaland del 1998 al 2006 i va presidir la Junta Executiva Municipal del municipi de Borås del 2007 al 2010.

Va contribuir a la governança per mitjà de funcions al Consell Assessor de Västra Götaland i com a president del Consell Institucional de la Facultat d’Enginyeria de la Universitat de Borås. Tota aquesta trajectòria reflecteix la seva dedicació al progrés de la seva comunitat i les institucions educatives.

BRANDO BENIFEI, membre del Parlament Europeu i co-relator de la AI Act

És diputat al Parlament Europeu des del 2014 i va ser reelegit el 2019. Així mateix, actualment és el cap de la delegació italiana del Grup de Socialistes i Demòcrates al Parlament Europeu. La seva principal activitat legislativa se centra en la digitalització i la intel·ligència artificial com a membre de la Comissió de Mercat Interior i Protecció del Consumidor, on és ponent de la Llei d’intel·ligència artificial. Altres activitats legislatives se centren en les àrees de treball i afers socials, afers constitucionals i afers jurídics.

iari Politico EU el va situar a ell i Dragos Tudorache (ponent de la Llei d’intel·ligència artificial) en el primer lloc de la llista de legisladors sobre tecnologia del 2022. També va ser nomenat Líder Europeu 2022 de la Fundació Obama. El 2016 Forbes va incloure Brando Benifei entre els menors de trenta anys més influents en la política de la Unió Europea. A més, el març de 2018 va rebre el premi Eurodiputat de l’Any (Premis MEP), en la categoria de Treball i Afers Socials, pel seu ampli treball sobre l’atur juvenil.

MARTA R. COSTA-JUSSÀ, investigadora científica a The Fundamental AI Research (FAIR) Team, META

Marta R. Costa-Jussà és una investigadora científica a The Fundamental AI Research (FAIR) Team, META, des del febrer del 2022. Es va doctorar per la Universitat Politècnica de Catalunya l’any 2008. La seva tasca investigadora s’ha centrat principalment en la traducció automàtica. Ha treballat al LIMSI-CNRS (París), al Barcelona Media Innovation Center, a la Universitat de São Paulo, a l’Institut de Recerca en Infocomm (Singapur), a l’Institut Politècnic Nacional (Mèxic), a la Universitat d’Edimburg i a la Universitat Politècnica de Catalunya, on va codirigir el grup MT-UPC.

Ha participat en divuit projectes de recerca europeus i espanyols, ha organitzat dotze tallers en llocs preeminents i ha publicat més de cent articles. Ha format part del consell editorial de la revista Computer Speech and Language. Ha rebut una beca d’impuls a la investigació del Consell Europeu per a la Recerca i dos premis de recerca de Google (2018 i 2019).

NICKLAS BANG BÅDUM, director sènior de projectes del Consell de Tecnologia Danès (DBT)

Nicklas Bådum està especialitzat a implicar els ciutadans i les parts interessades en la governança de les tecnologies noves i emergents, la recerca i la innovació. Treballa amb el disseny, l’aplicació i la coordinació de processos participatius i deliberatius nacionals i internacionals amb ciutadans i parts interessades, i aborda temes com ara l’ètica, la privadesa i les implicacions socials de la tecnologia, i també la cocreació de tecnologia responsable i centrada en l’ésser humà.

Els resultats d’aquests processos permeten als responsables de la presa de decisions adoptar decisions fonamentades en anàlisis exhaustives tant de l’opinió pública com dels punts de vistade les diverses parts interessades. Ha dirigit diversos processos participatius transeuropeus sobre intel·ligència artificial, protecció de dades, privadesa i infraestructures de dades de salut.

PAULA PETRONE, Professora associada d’investigació i responsable de l’equip de Ciències de Dades Biomèdiques a IS Global

Paula Petrone dirigeix l’equip de ciència de dades biomèdiques d’ISGlobal, especialitzat en el diagnòstic de malalties cròniques i infeccioses mitjançant visió per ordinador i tècniques avançades d’aprenentatge automàtic.

Es va llicenciar en Física per l’Institut Balseiro i va obtenir el doctorat en Biofísica per la Universitat de Stanford. D’esperit emprenedor, va fundar l’empresa emergent Phenobyte Life Sciences i té més d’una dècada d’experiència com a científica de dades en els sectors de les ciències de la vida i la salut digital.

Actualment, treballa com a consultora, mentora i activista, centrada en l’ètica, la intel·ligència artificial i la diversitat en les carreres STEM. Anualment, organitza l’esdeveniment Women in Data Science Biomedicine que es fa a Barcelona.

JOSÉ IBEAS, doctor en Medicina, màster universitari en Medicina Basada en l’Evidència i director del Programa de promoció de la intel·ligència artificial en la salut de la Generalitat de Catalunya

Director del Grup de Nefrologia Clínica, Intervencionista i Computacional (CICN) de l’Institut de Recerca i Innovació de l’Hospital Universitari Parc Taulí de Sabadell (Barcelona) i membre del Comitè d’Ètica de la Investigació Clínica.

Codirector de la Unitat Mixta entre el CICN i l’Escola Tècnica Superior d’Enginyeria de la Universitat Autònoma de Barcelona. Codirector del Màster en Intel·ligència Artificial i Big Data en Salut de l’Hospital Universitari Parc Taulí i Escola Tècnica Superior d’Enginyeria de la Universitat Autònoma de Barcelona. Coordinador electe del Grup de Treball d’Intel·ligència Artificial de la Societat Espanyola de Nefrologia.

Coordinador del Programa d’accés vascular de l’Hospital Universitari Parc Taulí. President del Grup Multidisciplinari Espanyol d’Accés Vascular (GEMAV). Expresident de la Societat d’Accés Vascular (VAS). Membre del Consell del grup de treball en Nefrologia Diagnòstica i Intervencionista de la Societat Espanyola de Nefrologia.

President de les Guies clíniques d’accés vascular del GEMAV, membre del Consell de les Guies Europees d’Accés Vascular de l’Associació Renal Europea i membre del Grup de la Guia de Pràctica Clínica sobre Malalties Renals Cròniques del Sistema Nacional de Salut Espanyol. Ha estat membre del Consell del Comitè Internacional de la Societat Americana de Nefrologia Diagnòstica i Intervencionista.

STEFFEN ALBRECHT, Oficina d’Avaluació Tecnològica del Bundestag (TAB)

Steffen Albrecht és investigador de l’Oficina d’Avaluació Tecnològica del Bundestag (TAB). És doctor en sociologia per la Universitat d’Hamburg i des de llavors s’ha centrat en l’impacte de la digitalització en diversos àmbits de la societat. La seva tasca a la TAB inclou avaluacions de biotecnologies i tecnologies digitals amb un enfocament especial en la participació ciutadana. Recentment ha estat responsable de l’estudi de la TAB sobre ChatGPT per al Bundestag.

CARLES SIERRA, director de l’Institut d’Investigació en Intel·ligència Artificial del Consell Superior d’Investigacions Científiques

Carles Sierra és professor d’investigació i director de l’Institut d’Investigació en Intel·ligència Artificial (IIIA) del Consell Superior d’Investigacions Científiques (CSIC) de Barcelona.

És professor adjunt de la Western Sydney University. També té l’orgull d’haver rebut el Premi de Recerca d’Agents Autònoms ACM/SIGAI del 2019. Ha participat en més de quaranta projectes de recerca finançats per la Unió Europea i diferents governs i ha publicat més de tres-cents articles en revistes científiques i congressos.

ENKELEJDA KASNECI, professora distingida amb la càtedra Liesel Beckmann de Tecnologies Centrades en l’Ésser Humà per a l’Aprenentatge a la Universitat Tècnica de Munic

Enkelejda Kasneci és professora distingida amb la càtedra Liesel Beckmann de Tecnologies Centrades en l’Ésser Humà per a l’Aprenentatge a la Facultat de Ciències Socials i Tecnologia de la Universitat Tècnica de Munic i membre principal de l’Institut de Ciència de Dades de Munic. Des del desembre del 2019 fins al juliol del 2022, va ser catedràtica d’Informàtica dels Mitjans i Interacció Persona-Ordinador al Departament d’Informàtica de la Universitat de Tübingen i va exercir en aquest departament com a degana d’estudis. El 2013 es va doctorar en Informàtica per la Universitat de Tübingen. Per la seva recerca doctoral va ser guardonada amb el Premi de Recerca de la Federació Südwestmetall el 2014.

La seva investigació gira al voltant de les tecnologies centrades en l’ésser humà i els sistemes d’intel·ligència artificial que detecten i infereixen l’estat cognitiu de l’usuari, el nivell d’experiència relacionat amb les tasques, les accions i les intencions basades en dades multimodals, i proporcionen informació per a mitjans i tecnologies d’assistència en moltes activitats de la vida quotidiana i, sobretot, en el context de l’aprenentatge. És membre de l’aliança de recerca Cyber Valley i del clúster d’excel·lència DFG Machine Learning in the Sciences. També es dedica activament a donar suport a les dones joves en el camp de les ciències, la tecnologia, l’enginyeria i la matemàtica (STEM) i particularment en el de la informàtica.

FERRAN DOMÍNGUEZ GARCÍA, Lletrat del Parlament de Catalunya

Ferran Domínguez García és lletrat del Parlament de Catalunya, on ha desenvolupat tasques relacionades amb els recursos humans i contractació pública. És doctor en dret per l’Institut Universitari Europeu (IUE) de Florència i la seva recerca s’ha centrat en qüestions territorials i en els drets fonamentals. Des del 2008 al 2022 va ser secretari del Consell Assessor del Parlament sobre Ciència i Tecnologia (CAPCIT).

VIRGINIA DIGNUM, catedràtica d’intel·ligència artificial responsable a la Universitat d’Umeå i directora científica de WASP-HS a Suècia

Virginia Dignum és directora científica de WASP-HS, el programa nacional de recerca suec més ampli sobre investigació multidisciplinària fonamental sobre l’impacte social i humà de la intel·ligència artificial.

És membre de la Reial Acadèmia Sueca de Ciències de l’Enginyeria (IVA) i membre de l’Associació Europea d’Intel·ligència Artificial (EURAI).

També és membre de la Global Partnership on AI (GPAI), del Consell Global d’Intel·ligència Artificial del Fòrum Econòmic Mundial, del Grup d’Experts de la UNESCO sobre l’aplicació de les recomanacions sobre intel·ligència artificial, del Comitè Executiu de la Iniciativa IEEE sobre Disseny Èticament Alineat i d’ALLAI, l’aliança holandesa d’intel·ligència artificial.

Va ser membre del Grup d’Experts d’Alt Nivell de la Unió Europea sobre Intel·ligència Artificial i va dirigir la guia d’UNICEF sobre la intel·ligència artificial i els infants. És autora del llibre Responsible Artificial Intelligence: developing and using AI in a responsible way (“La intel·ligència artificial responsable: desenvolupament i ús de la IA de manera responsable”).

AINA GALLEGO, Professora Agregada en Ciències Polítiques de la Universitat de Barcelona

Aina Gallego és professora agregada en Ciències Polítiques a la Universitat de Barcelona i investigadora a l’Institut Barcelona d’Estudis Internacionals i a l’Institut d’Economia Política i Governament. Doctora en Ciències Polítiques per la Universitat Autònoma de Barcelona (2008) i investigadora post-doctoral a la Universitat d’Stanford i el CSIC. S’ha especialitzat en comportament polític i economia política i en l’ús de mètodes de recerca avançats.

S’ha interessat àmpliament per la representació política dels col·lectius marginats. El seu llibre Unequal Participation Worldwide (Cambridge University Press) analitza les desigualtats en la participació electoral des d’una perspectiva comparada i defensa que les diferències de participació es poden reduir per mitjà de reformes institucionals. La seva recerca actual investiga les conseqüències polítiques del canvi tecnològic, inclosa la intel·ligència artificial (IA), centrant-se en els treballadors vulnerables a la substitució tecnològica. Té diverses publicacions a revistes d’abast internacional com Journal of Politics, Comparative Politica Behavior o l’Annual Revieu of Political Science.

Ha estat receptora d’una beca Marie Curie de foment de la carrera investigadora. Ha estat investigadora Ramon y Cajal i recentment ha rebut un ajut del programa ICREA Acadèmia per a impulsar la recerca.