En este caso, dentro del Esquema Nacional de Seguridad, hay un hito previsto para la aprobación de la política de IA y ya se han anticipado algunas normas de uso en la renovación de la actual certificación. En este proceso, les avanzo que se está dando mucha importancia al cumplimiento del artículo 8 4 del Reglamento de Inteligencia Artificial, que exige la capacitación en IA tanto del personal implicado en el despliegue, algo que ya se ha hecho en el Servicio de Sistemas de Información y Servicio de Comunicación y Nuevos Proyectos, como en el personal usuario. En este último caso está previsto que se haga dentro del marco de implantación del copiloto de 365, con firma de declaración responsable responsable.
17.2 Petición de limitar el uso de la inteligencia artificial en el Ayuntamiento y sus contratas
Ruego
Resumen
El Gobierno municipal no acepta el ruego de Podemos sobre límites al uso de inteligencia artificial
Podemos pidió evitar el uso de inteligencia artificial generativa para producir carteles, textos, imágenes o sonidos en el Ayuntamiento y extender esa restricción a la contratación municipal, además de aprobar protocolos y formación sobre protección de datos. El Gobierno municipal respondió que los procesos se ajustan al Esquema Nacional de Seguridad y al Reglamento de Inteligencia Artificial e indicó que no acepta el ruego, en el sentido de limitarse al cumplimiento de la ley. No hubo votación.
Datos mencionados
-
artículo 8.4
precepto del Reglamento de IA citado
cifra mencionada por el equipo de Gobierno
Fuente
Interviniente no identificado 5:26:08
Qué se pide
Respuesta del Gobierno
Posiciones
Resultado
-
Respuesta
Resultado
El equipo de Gobierno declaró que no acepta el ruego y que se limitará al cumplimiento de la ley, añadiendo que cualquier incumplimiento será penalizado y que la dirección general responsable de protección de datos procede de la Agencia Española de Protección de Datos. No se sometió a votación.
Ver evidencia (3)
Interviniente no identificado 5:26:52 Por otro lado, el Reglamento de Inteligencia Artificial también regula las obligaciones de informar expresamente del contenido generado por IA, tanto en la producción de escritos, textos e imágenes, que podrán ser sancionados en caso de incumplimiento. Del mismo modo, en el caso de chatbots, se advertirá a los usuarios de que se está interactuando con inteligencia artificial. En la misma línea está la concienciación de la necesidad de protección del dato personal en su uso en la inteligencia artificial, de manera que no se permitirán los usos de contenido no anónimo según las políticas de la Agencia Española de Protección de Datos. Por todo ello, no aceptaremos el real decreto-ley. Gracias.
Interviniente no identificado 5:29:42 Cualquier incumplimiento que haya al respecto será penalizado. O sea, que lo que hay que hacer es controlarlo. Y la directora general lleva protección de datos, viene de la Agencia Española de Protección de Datos. Así que si alguien controla del tema, es, vamos, liderado por ella. Así que yo creo que tranquilidad, o sea, nos acepta en el sentido de que nos vamos a limitar al cumplimiento de la ley, como acabo de indicar.
Carmen Moriyón Entrialgo (Presidencia) Foro 5:30:07 Gracias. Finalizado el orden del día, se levanta la sesión. Gracias.
Debate
Gracias, alcaldesa. Seguro que todas aquí hemos visto esos carteles feos, genéricos y amarillentos que proliferan en las comunicaciones de todo tipo de entidades, incluidas las instituciones públicas. Escribes un prompt con 4 datos y tienes tu cartel. El caso es que hasta ahora a nadie le faltaba capacidad para tener un cartel de lo que necesitase, y tampoco los carteles eran peores que estos nuevos batiborrillos. Lo que sí hacía falta era invertir un poco de tiempo en prepararlo o pagar a un profesional si querías un buen trabajo de diseño o ilustración. Es uno de los aspectos cotidianos que se están degradando con la llamada inteligencia artificial generativa, a cambio de darnos supuestas soluciones fáciles a problemas que no teníamos, con unas consecuencias además que aún no llegamos a entender. Por supuesto que las repercusiones del despliegue descontrolado de la IA van muchísimo más allá de un cartel y no tenemos tiempo para desgranarlas. A poco que una lea ve que son literalmente existenciales, pero de momento aquí tenemos que centrarnos en las cosas que están a nuestro alcance. Y el uso de esas herramientas para sustituir la producción artística e intelectual debería preocuparnos por múltiples razones. Un producto de IA que sea igual que otros 100 no solo hace que se pierda el valor de lo que se quiere decir, no solo resulta cutre y aburrido. Cuando se trata de un ámbito de cercanía como el municipal, además, no puede reflejar nuestra idiosincrasia propia. Es como si fuera un siseón de marca blanca, y eso lo que genera es un deterioro de la transmisión cultural. Se empobrece nuestra sociedad a marchas forzadas en lo estético y lo discursivo, y a costa de que pierdan su modo de vida los y las creadoras. No olvidemos que si la IA puede crear versiones regurgitadas y clónicas de su trabajo es porque sus dueños la han alimentado con millones de obras sin permiso de sus autores, pisoteando sus derechos. Y en todos los pasos de este proceso se genera un consumo de recursos cada vez más Es un proceso verdaderamente injusto y depredador contra el que solo cabe oponerse. Este Ayuntamiento tiene capacidad de sobra para no recurrir a esas falsas soluciones baratas y también tiene la responsabilidad de seguir apoyando a un sector clave en nuestra ciudad, como son las industrias creativas. Por ello, hoy pedimos que evitemos todo uso de la IA generativa para producir carteles, textos, imágenes o sonidos, y que estas restricciones se extiendan a toda la contratación municipal, porque si una adjudicataria utiliza materiales generados por IA en los servicios que nos presta, también está degradando su imagen. A ello añadimos otra responsabilidad que tenemos que abordar con urgencia, que es la protección de los datos personales de los y las gijonesas. Es imprescindible poner en marcha protocolos firmes y acciones formativas para prevenir un uso irresponsable de las herramientas de IA en el seno del ayuntamiento o de las adjudicatarias de contratos municipales, porque no hay atajo que justifique que nuestra información sensible quede en manos de empresas que se reservan el derecho de procesarla para cualquier fin. Gracias. Gracias, señora Mitre.
Gracias, alcaldesa. Como no puede ser de otra manera, y tal como viene operando este Gobierno, todos los procesos puestos en marcha en este Ayuntamiento, así como las innovaciones o integraciones de nueva tecnología, se realizan en base a la normativa y regulación vigente, que la hay.
En este caso, dentro del Esquema Nacional de Seguridad, hay un hito previsto para la aprobación de la política de IA y ya se han anticipado algunas normas de uso en la renovación de la actual certificación. En este proceso, les avanzo que se está dando mucha importancia al cumplimiento del artículo 8 4 del Reglamento de Inteligencia Artificial, que exige la capacitación en IA tanto del personal implicado en el despliegue, algo que ya se ha hecho en el Servicio de Sistemas de Información y Servicio de Comunicación y Nuevos Proyectos, como en el personal usuario. En este último caso está previsto que se haga dentro del marco de implantación del copiloto de 365, con firma de declaración responsable responsable.
Por otro lado, el Reglamento de Inteligencia Artificial también regula las obligaciones de informar expresamente del contenido generado por IA, tanto en la producción de escritos, textos e imágenes, que podrán ser sancionados en caso de incumplimiento. Del mismo modo, en el caso de chatbots, se advertirá a los usuarios de que se está interactuando con inteligencia artificial. En la misma línea está la concienciación de la necesidad de protección del dato personal en su uso en la inteligencia artificial, de manera que no se permitirán los usos de contenido no anónimo según las políticas de la Agencia Española de Protección de Datos. Por todo ello, no aceptaremos el real decreto-ley. Gracias.
Gracias, señora Suárez Fernández. Es cierto que el tema de los chatbots, que además vimos que, bueno, que se van a utilizar por parte de diferentes servicios del Ayuntamiento. Es una cuestión que de tareas repetitivas o sencillas, evidentemente, la tecnología hay que utilizarla. No somos unas luditas, no estamos queriendo poner puertas al mar. Es evidente que los avances en la tecnología pueden favorecer el trabajo realizado. Lo que pasa es que hay que saber utilizarlo bien y utilizarlo con sentido. Pero las dos partes del ruego que proponíamos y nos parece que es importante Entonces, no sé cuál es la parte con la que no está de acuerdo el Gobierno y que no acepta. Es, por un lado, el tema de la protección de datos, que me parece muy peligroso a la interna y con todas las subcontratas el pasarnos datos de los ciudadanos por ahí, porque evidentemente eso acaba, no sabemos muy bien todavía dónde y con qué control y qué rigor. Y la parte creativa. Una cosa es un chatbot resolviendo dudas sencillas o simplemente para acabar redirigiéndote a personal, pero ya con un filtro, y otra cosa es generar carteles y desplazar, por ejemplo, encontramos mucho a Juanjareño, y pues ver eso de la Fundación de Cultura, ver un cartel, por ejemplo, provocado con IA, la verdad que sería bastante vergonzoso por parte del Ayuntamiento. El hecho de que se rechace que se hagan carteles de esta manera, la producción de textos, de resoluciones, de discurso, de relato del propio Ayuntamiento, creo que es imprescindible para no perder el control y no entrar en un empobrecimiento laboral, medioambiental, democrático, intelectual, estético, que creo que es imprescindible que haya un compromiso de este Ayuntamiento para la parte que nos toca, repito, y para las subcontratas, porque tampoco vale de nada que estemos manteniendo nosotros unos estándares de ética respecto al asunto de la inteligencia artificial que luego no respetan las subcontratas, o cuando hacemos una licitación, que no se tengan en consideración. Entonces, no acabo de entender si es que sí tienen pensado contratar carteles o hacer carteles mediante IA, O qué es la parte que no aceptan del robo, la verdad. Bueno, por aclarar, yo creo que quedó bastante claro que desde el Ayuntamiento se está trabajando con el esquema nacional de seguridad y con el reglamento de inteligencia artificial.
Cualquier incumplimiento que haya al respecto será penalizado. O sea, que lo que hay que hacer es controlarlo. Y la directora general lleva protección de datos, viene de la Agencia Española de Protección de Datos. Así que si alguien controla del tema, es, vamos, liderado por ella. Así que yo creo que tranquilidad, o sea, nos acepta en el sentido de que nos vamos a limitar al cumplimiento de la ley, como acabo de indicar.
Gracias. Finalizado el orden del día, se levanta la sesión. Gracias.