Salud
Este es el subforo en que menos participo; he puesto mi opinión sobre estos temas más de una vez aquí y allá, pero no he querido entrar a grandes debates ni tampoco importunar en temas donde les leo y veo comentando los avances que se dan en estas materias o determinados usos de las inteligencias artificiales (aunque no lo parezca, no me gusta ir de aguafiestas). Me voy a ir bastante de las preguntas planteadas por el jefe
@Fardelejo al inicio de este tema, sobre todo porque el debate ha ido por otros derroteros.
Esta situación es más compleja de responder de lo que me gustaría. Les
compañeres @Iradiel,
@kadaroth y
@Altea han recogido varios puntos que comparto bastante, pero permítanme que haga algunas distinciones y, desde ahí, me explaye:
- Inteligencias Artificiales Generativas (Generativas, en adelante) como herramienta frente a Generativas como resultado.
- Generativas con un entrenamiento respetuoso – voluntario frente a Generativas que no lo tienen.
Herramienta y resultado La
primera distinción (herramienta frente a resultado) es importante para distinguir cuándo podemos estar ante un elemento que «reemplaza» frente a un elemento que «ayuda», esto también me hace distinguir comparaciones que me parecen válidas de las que no me parecen válidas sobre el uso de estas herramientas.
Voy a poner un ejemplo un poco tonto, pero es una comparación que he visto usar más de una vez: el uso en el mundillo informático de la Generativa para, justamente, picar mucho código de forma «automática». En ese caso, una persona está usando como herramienta, dentro de su trabajo, e incluyendo una supervisión y trabajo sobre el código; el código, además, no tiene una generación creativa en sí misma (sin negar que existe «arte» y «originalidad» en la escritura de código, que existen «estilos» y demás, pero en gran medida, es un trabajo «mecánico» dentro de unos parámetros estrictamente acotados por el propio lenguaje de programación); así pues, el uso de la Generativa es, en esencia, una herramienta más de trabajo, más avanzada pero similar al «autocompletar» que tenemos en un procesador de texto y que evita que tenga que escribir «Administración» completa cada vez que lo uso en un escrito.
Con el arte generativo, pasa algo parecido en varios ámbitos. Más allá de artistas que lo han comenzado a usar para fondos u otros elementos, donde más sé que se está usando es por parte de publicistas; hace ya unos meses escuchaba a uno hablar de cómo se estaba usando en su agencia la Generativa; esta persona negaba que para el resultado final fueran a usar este tipo de herramienta, pero que para el proceso le resultaba muy práctico, por ejemplo, para generar en poco los bocetos de los distintos planes de campaña que se presentan para el cliente; comentaba cómo un trabajo que antes les llevaba semanas (por ejemplo, para plantear cuatro
story boards distintos o cuatro soluciones estéticas diferentes) ahora se volvía en horas, y no generaban cuatro, generaban más y con mayor libertad creativa.
El compañero
@edu1969 habla del uso para «rellenar» pliegos y similares, un trabajo que, de otra forma, haría cortando y pegando de otras fuentes; nuevamente, estamos ante un uso de «herramienta», donde lo importante es un conjunto donde se especifican una serie de cuestiones mientras que el resto, de una forma u otra, es relleno genérico; parecido a cuando usamos plantillas, pero mejor hecho y adaptado (y adaptado por la máquina, sin gastar horas de trabajo humano).
En un extremo más creativo, cuando se comenzó a poner de moda lo de la Generativa de imágenes, en RTVE hicieron una entrevista a un artista vanguardista que ya la estaba usando. El arte de este señor se fundamentaba en la fotografía de ideas muy oníricas; lo que le permitía la Generativa era «variar» mucho más las fotos y «ahorrar» en atrezo (mostraron cómo el fondo ahora lo generaba digitalmente y cómo variaba elementos); seguía, su arte, teniendo mucho de «artesanal» (contando con que la base seguía siendo de fotografías a personas) y lo que había hecho era introducir la generativa en su proceso creativo. Para él, está claro, era una herramienta.
Ha surgido, por otro lado, un nuevo trabajo de «ingeniero de
prompts» junto con «expertos en generación» que fundamentan su trabajo en la Generativa y en la edición del resultado. En este caso, aunque la Generativa es una herramienta, lo es de un nuevo tipo de trabajo que sí busca resultados finales, con lo que ya lo enclavaría en «resultado» y no en «herramienta».
En el caso de los juegos de mesa, las ilustraciones suelen ser un acompañamiento a lo principal (mecánicas y/o experiencia narrativa)
dentro de un producto complejo. El uso que más se está haciendo de la Generativa es la de «
resultado», se usa la Generativa no dentro de un flujo de trabajo artístico si no para suplir la falta de artista (esta se puede deber a mil historias, pero fundamentalmente es un tema económico), quizá, incluso, por parte de quien llevará el diseño gráfico.
(Pequeño excurso: no vamos a notar una bajada de precios por este uso, primero, porque también la Generativa tiene un coste y, segundo –y más importante–, porque han subido todos los demás costes, ahora para «mantener» el precio de un producto se debe recortar en sitios distintos a la propia manufactura y transporte del producto, esto es, se termina recortando en el apartado artístico y otros márgenes).
Es esta diferencia la que ha puesto en pie de guerra a media industria del dibujo y la ilustración, no es una herramienta para ese gremio (en general, aceptan de muy buen agrado las herramientas tecnológicas y las que les ayudan y acompañan), son unos programas para cuando no se puede o no se quiere tener arte creado por alguien de ese gremio.
No voy a entrar en si las ilustraciones son mejores o peores o lo que costaría algunos de los resultados que se ven (en tiempo de trabajo humano), entre otras cosas porque es un elemento meramente técnico que, en todo caso, mejorará (como el número de dedos, ya no hay tantos seres amorfos en ese sentido); sí que es cierto que muchas ilustraciones generadas automáticamente dan el pego inicialmente pero tienen muchos elementos que chirrían, esto se debe simplemente a que no hay un razonamiento que cree esa imagen, con lo que hay cosas que una persona no haría ni imaginaría así. Pero estos elementos, si quien genera la imagen los tiene en cuenta, deberían ser los que se editen o los que lleven a descartar una imagen sobre otra.
(Segundo pequeño excurso: si no toda ilustración es «arte»; aunque sea un poco de autopublicidad: «
Meras fotografías y otras yerbas»; las ilustraciones Generativas, esto es, que no formen parte de un proceso creativo, no pueden ser, en ningún caso, «arte». El arte no es un resultado, es un proceso. Sí se puede hacer «arte»
usando Generativas, pero las Generativas en sí mismas no hacen «arte»).
Hay muchas formas de abaratar costes en arte, entre ellas, ir al arte libre y gratuito (que lo hay y muy bueno) o pagar usando bancos de arte (que los hay muy buenos y a buen precio). Pero esas opciones no te permiten tener un arte «propio», así que se está tirando por la Generativa (sin entrar a si están bien ejecutados o mal ejecutados, porque se ven casos en que son un horror desde cualquier punto de vista y casos en que la herramienta se ha usado a conciencia y con detalle para que el resultado tenga un nivel de calidad y homogeneidad aceptable).
Personalmente,
prefiero no consumir cosas que han usado la Generativa como «resultado». Ya el arte es muy de consumo, pero quiero que siga siendo arte lo que consumo. Ahora bien, esto es una preferencia, y quizá termine viviendo con mis contradicciones con este tema o con mis atajos (un músico que me gusta mucho, que genera música libre, lleva un par de discos usando Generativa para las portadas; nunca ha tenido buenas portadas, todo hay que decirlo… bueno, son los únicos discos que, como disco, no he descargado, pero sí lo he hecho con las canciones sueltas; por suerte, me permito separar el arte de un portada del contenido de ese disco; pero con un libro físico o digital no podría hacer eso, con un juego de mesa, tampoco).
Me he centrado mucho en la ilustración porque es lo que más conozco (sigo a mucha gente artista y, además, sobre el uso de la Generativa desde un punto de vista entusiastamente positivo lo que más me ha interesado son los programas dentro del mundillo del arte); y es lo que ahora más se está dando más en los juegos de mesa.
En los juegos de mesa ha sido toda una lucha el reconocimiento de las personas diseñadoras, poco a poco se está consiguiendo el reconocimiento de las personas desarrolladoras, ya se incluye el reconocimiento de las personas o los estudios de diseño gráfico y, pum, nos encontramos con que el arte pierde el reconocimiento en favor de algo hecho automáticamente. En los juegos de mesa no se está viendo el diseño del propio juego con Generativa, sí se usan otras herramientas de inteligencia artificial para otros elementos del diseño (o se pueden usar), pero seguramente sí lleguemos a ese punto (y quizá ya nos hayan colado algún juego en que un fulano dice ser el autor pero en realidad es su máquina la autora). Pero pasará con el desarrollo, pasará con los doblajes en las aplicaciones de los juegos, pasará con mil ámbitos más.
Sobre el «entrenamiento» de las Generativas Uno de los argumentos que más escucho o leo en defensa de cómo se entrena a las Generativas es que los seres humanos tenemos el mismo tipo de entrenamiento. Vamos a distinguir entre lo que es un ser humano y una máquina como punto de partida (esta frase, cuando estemos hablando con robots autoconscientes, dejará de tener sentido).
No, de hecho, no «aprendemos» igual y buena muestra de ello es que la máquina necesita muchos miles de imágenes de todo tipo de perros para reconocer qué es un perro y un bebé al ver un par ya los reconoce. Si la máquina aprendiera como lo hace una persona, no necesitaría la cantidad de información que requiere para hacer cosas «básicas». ¿Por qué la diferencia? Porque la máquina NO razona. No tiene un pensamiento abstracto ni genera un pensamiento simbólico (por eso da resultados y no procesos). Quizá llegue, no lo vamos a negar, pero no con los modelos de los que hablamos ahora.
Con la idea de Generativa como herramienta, en abstracto, no tengo problemas, pero sí pueden surgir cuando nos encontramos con la segunda distinción:
Generativas con un entrenamiento respetuoso – voluntario frente a Generativas que no lo tienen. Este es el punto clave para entender la gran mayoría de críticas a la Generativa que hoy por hoy vemos.
Uno de los principales de una de las principales empresas reconoció, sin problemas, que se habían saltado la normativa de propiedad intelectual. En realidad, más allá del Derecho, estas empresas se han saltado hasta la mínima cortesía. Se han generado unos modelos a punta de material explotado de manera irregular y premiar eso, en principio y por principios, me parece incorrecto.
Es curioso, estamos en una etapa de fuerte protección de los datos personales para que las empresas (y los gobiernos) no los exploten de determinada forma; pero si hablamos de lo creado por otras personas, ya nos preocupa menos la protección. Esto nos pasa mucho en varios ámbitos, así pues, ante determinados conflictos laborales nos ponemos de lado de las empresas porque ponemos en foco en cómo nos afecta en nuestra posición como personas consumidoras, anteponemos, por tanto, nuestro bienestar individual a la lucha colectiva.
Muchas personas del mundo artístico han alzado la voz a grito de «así no» y
esa es una lucha que respeto y apoyo (la campaña de Autoras de Cómics fue muy buena,
les invito a leer un resumen en la bitácora de Laurielle).
Y es por ese respeto por lo que, personalmente,
voy a rechazar usar y consumir material que ha sido realizado gracias a modelos entrenados de forma poco ética. De la misma forma en que tengo vetado el consumo de muchos otros productos y muchas otras marcas o empresas por quién las hace o cómo las hace o por las prácticas de dichas empresas. Viviré, por supuesto, con las contradicciones que esto produce (por qué esas sí están vetadas y esas otras no, o por qué a veces me salto un veto).
Hay otros modelos que están bien entrenados o que podrían estarlo, hay otros usos que han demostrado que se pueden hacer bien las cosas (hace muchos años, un conocido me contó cómo andaban trabajando con el reconocimiento de imágenes para colaborar en el diagnóstico de enfermedades en el análisis de placas de rayos X, todo el material que se usaba estaba bien definido, así que sí, es posible hacer las cosas bien; es cierto que no es Generativa, es otro tipo de IA, pero bueno; como ese, hay muchos ejemplos de IA hechas con grandes cantidades de datos bien obtenidos).
Otros cuestionamientos o elementos accesorios (pero no por ello menos importantes)En general, un tema que dejamos muy de lado en los juegos de mesa (aunque un par de editoriales sí lo han puesto sobre la mesa)
es el de la huella ecológica de este ámbito de consumo; en este momento, hay dos tendencias contrapuestas y complementarias, por un lado, la sobreproducción (que lleva a más gasto en componentes, energía y espacio) y, por otro, la minoración en los componentes y tamaños (las versiones esenciales y la reducción de cajas; en gran medida, por el aumento del transporte, ya no compensa tanto la cajota llena de aire). La producción de los juegos está altamente deslocalizada y la logística detrás de ellos es brutal. El uso de una tecnología que se sustenta en un gran consumo vinculado, en gran medida, a la cantidad de todo que necesita para funcionar (y esto es algo que cambiará, estoy seguro) hace que la huella ecológica de un producto que ha hecho un uso intensivo de Generativas sea mucho mayor que uno que no. A igual cantidad de componentes y de sitios de producción, uno es mucho menos respetuoso con el medio ambiente que el otro. Este es un problema circunstancial que corregirán (por lo visto, ya hay modelos que están funcionando con un consumo menor, ese es el camino).
(Pequeño excurso: soy consciente de la contradicción que supone hablar de esto por medio de un foro que está colgado y, por tanto, que deja más huella ecológica que hablar de esto mismo con mi entorno de cercanías y personal… con quien ya he hablado de estos temas, sea dicho; pero digamos que hay grados en cuanto al consumo y permítanme ver la diferencia entre los dos hechos como algo en magnitudes).
Otro argumento que me preocupa que
se suele esgrimir en favor del uso es que ha venido para quedarse y que hay que aceptarlo por competitividad (internacional); entiendo de dónde parte y creo que no hay, por parte de quienes nos oponemos a ciertos usos, el ir en contra de
esta tecnología (al menos en general), si no de
cómo se construye y para qué se usa.
El tema no está en si usarla o no en abstracto, si no las condiciones de su generación y uso. Y sí, muchos países no pondrán límites, pero son muchos los ámbitos en que nos autolimitamos para poder generar un uso más responsable. Así pues, el que haya países que no tengan normativas laborales o normativas medioambientales dignas significa que debamos perder acá las que tenemos; lo que debemos hacer es intentar convencer a los demás a que tengan normativas homologables (dentro de su desarrollo autónomo); esto se ha hecho parcialmente en muchos temas y así vamos empujando poquito a poco a sociedades mejores (todas ellas), aunque muchas veces damos muchos pasos atrás.
Más allá de las GenerativasEn este largo escrito me he centrado en las Generativas porque es donde más problema veo,
@Amberknight menciona otros entornos donde se usa; personalmente no quiero un producto con traducción automática, no lo he querido en el pasado y no lo quiero ahora; y en algunos se nota el uso, igual que se nota cuando quien traduce no sabe de juegos de mesa (ese momento de ver
teja en vez de
loseta). Sin dudas, hay muchos ámbitos donde se usan muchos modelos distintos de «inteligencia artificial», incluso con elementos que ya no se consideran «IA» (en su día, OCR se decía IA, ahora normalmente no se describe así).
Los principales modelos parece que dan una respuesta correcta o adecuada pero les pasa como con la ilustración, es una apariencia en muchos casos. Ya sabemos que «alucinan» bastante y como resultado final no suelen valer la pena (y se nota mucho cuando se usan así); al menos todos los que no son de un uso muy específico. Cada vez estarán mejor refinados, con lo que este es un inconveniente actual, no futuro. Pero sí hay un tema con el lenguaje y la contextualización que es importante y no es tan fácil solventar, que es donde se ponen con mucho empeño a corregir pero es donde más se fallará, simplemente por el carácter abierto y cambiante del lenguaje; eso o nuestro lenguaje queda limitado por el algoritmo (como ya pasa con mucha gente que quiere monetizar vídeos, que se somete a unas autocensuras brutales con palabras; pero esa censura existente en la monteización impide, por otro lado, contenido que vale la pena y que no está usando el carácter negativo de esas palabras, o sí, pero para hablar de ello). (De esto habla un poco
@Jugador Alfalfa en su resumen de su posición, especialmente en lo que agregó tras editar el mensaje).
Personalmente no puedo dar más validez a la interpretación que puede hacer de un reglamento una «IA» que el que pueda hacer yo mismo; entiendo que puede resolver una duda concreta (de la misma forma que leer el reglamento te la resolvería), pero todo lo que sea interpretación, asumir que lo que dice la IA es cierto porque es una IA es un error de base, le conferimos una autoridad que no tiene. Si lo que hace es ponerme la fuente en concreto que resuelve esa misma duda (por ejemplo, me ahorra tiempo buscando en la BGG o en el típico Respuestas a Preguntas Frecuentes) pues dependerá de dónde ha sacado la información para darle más o menos validez. Pero es por la fuente y no por la IA, simplemente es una mejora sobre el buscador ordinario en cuanto a la búsqueda de esa información (y valoraré si el comentario de la BGG tiene o no sentido o es una interpretación tan válida pero en sentido distinto como la mía propia).
(Otro miniexcurso con algo de autopropaganda: «
Comentarios sobre la Inteligencia artificial en el Derecho», escrito hace diez años; porque estos debates no son tan nuevos como parece).
En todo caso, esos otros usos, en general, me pueden parecer adecuados siempre y cuando el modelo esté «entrenado» de una forma adecuada y, además, sea un sistema de inteligencia artificial explicable (XAI por sus siglas en inglés), dentro de lo posible y adecuado.
Bueno, dejo de darles la vara con este tema, creo que me he extendido demasiado, ¡lo siento! (pero solo un poquito).
Hasta luego
