[general_dat] Defensa de Tesis de LCD de Joaquín Machulsky

[Sergio Abriola]

 Tengo el agrado de anunciar la defensa de Tesis de Licenciatura en Ciencia
de Datos de Joaquín Salvador Machulsky, titulada: "Explorando AI Safety via
Debate: un estudio sobre capacidades asimétricas y jueces débiles en el
entorno MNIST"

*Fecha y hora*: Lunes 4 de agosto, 16hs.
*Aula*: Aula 1301, Pabellón Cero + Infinito
*Director*: Sergio Abriola
*Jurados*: Victoria Paternostro, Santiago Cifuentes


Resumen:
A medida que los sistemas de inteligencia artificial se vuelven más
poderosos, surge el desafío fundamental de cómo podemos utilizarlos y
supervisarlos seguramente, especialmente cuando superen las capacidades
humanas en distintos dominios.
Esta tesis investiga el paradigma de debate, donde dos agentes de IA
compiten para convencer a un juez menos capaz. Utilizando el entorno MNIST,
se implementan agentes con objetivos contrarios (uno honesto y otro
mentiroso) y se investigan los efectos que tienen distintas variaciones
experimentales en la precisión del juez. El estudio concluye que, en este
contexto, el diseño cuidadoso del protocolo tiene un gran efecto en el
desempeño del juez, pero que este desempeño se derrumba si los agentes
logran identificar puntos débiles en el juez.


Están todos cordialmente invitados,
Sergio Abriola