Grant HERA/CHANSE @ Centrul de Cercetare în Etică Aplicată
NIHAI: Comunicare responsabilă cu boții conversaționali bazați pe modele lingvistice mari (Large Language Models)
Centrul de Cercetare în Etică Aplicată (CCEA) al Facultății de Filosofie din cadrul Universității din București găzduiește proiectul de cercetare NIHAI (Norms of Assertion In Linguistic Human-AI Interaction), finanțat prin programul HERA/CHANSE, apelul „Crisis – Perspectives from the Humanities”, adresat consorțiilor europene de cercetare. Finanțarea de peste 1 milion de euro este oferită pentru o perioadă de 36 de luni (martie 2025 – februarie 2028), în urma unei competiții cu o rată de succes de sub 5%, în care Universitatea din București este singura universitate românească ce are un proiect finanțat.
Proiectul NIHAI își propune să elaboreze principii etice pentru design-ul responsabil al boților conversaționali (chatbots) ce utilizează modele lingvistice mari (Large Language Models – LLMs), precum ChatGPT, Claude sau Gemini: reguli fundamentate filosofic și empiric, care specifică ce ar trebui și ce nu ar trebui să spună acești boți conversaționali.
Pe măsură ce dezinformarea, știrile false și teoriile conspirației circulă tot mai liber, încrederea în media, știință și guvern se erodează. Această „criză a comunicării” a fost amplificată de utilizarea pe scară largă a tehnologiilor digitale și se va intensifica și mai mult, pe măsură ce comunicăm tot mai adesea cu și prin intermediul modelelor lingvistice mari.
Pentru a răspunde acestei provocări, cercetătorii din cadrul proiectului își propun să înțeleagă ce așteaptă oamenii în conversațiile cu modele lingvistice mari, cum reacționează când aceste așteptări nu sunt îndeplinite și dacă așteptările și reacțiile lor diferă în funcție de limbi și culturi; în egală măsură, care sunt factorii relevanți ce influențează încrederea în boții conversaționali. Cercetarea este situată la intersecția dintre etică, psihologie, lingvistică, informatică, media și comunicare și utilizează metodologii mixte de investigație, precum filosofia morală experimentală.
Proiectul va fi implementat de un consorțiu european interdisciplinar coordonat de: Markus Kneer Universitatea din Graz, Austria (liderul proiectului); Markus Christen, Universitatea din Zurich, Elveția; Mihaela Constantinescu, Facultatea de Filosofie, Universitatea din București; Izabela Skoczen, Universitatea Jagiellonian, Polonia. Un partener-cheie din industrie este Polaris News, organizație condusă de renumitul jurnalist Hannes Grassegger și axată pe dezvoltarea de instrumente jurnalistice care integrează modele lingvistice mari pentru a susține jurnalismul local independent.
Echipa de proiect
Director de proiect (Principal Investigator România): Mihaela Constantinescu, Centrul de Cercetare în Etică Aplicată (CCEA), Facultatea de Filosofie, Universitatea din București.
Cercetător postdoctoral: Cristina Voinea, CCEA, Facultatea de Filosofie, Universitatea din București
Platforma web: https://talkingtobots.net/