Pienso mucho últimamente en la inteligencia artificial y todo lo que conlleva y va a conllevar, y la primera conclusión a la que llego siempre es que no sé qué me parece más temible, si la inteligencia artificial o la estupidez natural. Y también me pregunto si la inteligencia artificial no tendrá como contrapartida una estupidez artificial también, al igual que sucede en el caso humano.
Lo que me parece indudable es que si, hasta ahora, todo lo que sucede en el mundo ha dependido de la inteligencia y de la estupidez humana, a partir de ahora todo dependerá también de ese tercer factor, una inteligencia de otra clase que podrá superar a la inteligencia humana pero cuya posible estupidez difícilmente será superior a la estupidez humana.
Que conste que la IA me parece maravillosa en muchos sentidos, por ejemplo en todo lo relacionado con la ciencia médica y en todo lo que requiera una precisión y exactitud que el ser humano no puede alcanzar dada su propia condición humana, que está sujeta a emociones, dudas, deseos, miedos, intereses, olvidos, distracciones y temblor de manos.
Pero la IA también me parece temible por otros aspectos, que tienen que ver precisamente con lo mismo pero al revés: que no tiene emociones, ni recuerdos, ni sentido del humor...
Y
sin embargo, lo más inquietante es que la IA pueda llegar a alcanzar tal grado
de desarrollo y perfección que acabe siendo capaz de sentir, de pensar, de
desear... es decir, de adquirir sentimientos y conciencia propia, como los humanos.
Pero entonces esto me lleva a otra cuestión: si la inteligencia artificial se volviera tan completa, tan compleja y tan humana como para llegar a tener sentimientos, conciencia, deseos, etc., ¿adquiriría con ello también la capacidad de meter la pata como un humano cualquiera? Y en ese caso, ¿no sería mejor quedarnos como estamos?
En fin, ya ven ustedes que pensar en esto me genera un revoltillo de paradojas que me abruma y me confunde de tal manera que acabo por no saber realmente qué pienso de todo esto.
Entonces, por acotar el pensamiento y limitarlo a algo un poco más manejable, me centro en un uso concreto de la IA, como son los traductores automáticos. Si duda, es maravilloso poder disponer de una herramienta que nos permita comunicarnos con hablantes de cualquier idioma, aunque no sepamos ni una palabra de ese idioma. Esto probablemente implicará, entre otras cuestiones, que desaparezca el aprendizaje de idiomas, asunto que daría para mucha reflexión también.
Pero lo más inmediato es el uso que ya tienen los traductores automáticos. Hace poco leí un artículo sobre este asunto en el que se decía que los traductores automáticos no son fiables en determinadas situaciones delicadas, porque tienen aún ciertas limitaciones. Por ejemplo, pueden confundir palabras de ortografía o sonido similar, y no detectan las erratas, por lo que las palabras mal escritas las toman por otras, y las traducen por ésas sin percibir que no encajan en el contexto. Por lo tanto el uso de traducciones automáticas en sectores como la medicina o el derecho, o en situaciones bélicas, supone un riesgo gravísimo, ya que un error en esas traducciones puede dar lugar a una catástrofe, personal o colectiva.
Y es cierto. Imaginemos que un traductor automático confunde, por ejemplo, las palabras inglesas "probe" y "prove", es decir, que confunde "sondear/investigar" con "demostrar", y desde luego no es lo mismo investigar si alguien ha traficado con drogas que demostrar que ha traficado.
Pero lo triste del asunto es que este tipo de errores también los cometemos los humanos. ¿Acaso no vemos y oímos equivocaciones de este tipo por doquier, en cualquier tipo de texto escrito o discurso hablado? De hecho, el error que he utilizado como ejemplo es real y lo cometió hace un tiempo un ser humano en televisión.
Es decir, si nuestro consuelo o defensa ante la apabullante arremetida de la IA es que a veces se equivoca, ya podemos darnos por derrotados, porque nosotros seguiremos cometiendo errores pero la IA sin duda dejará algún día de cometerlos.
.JPG)
24 comentarios:
Somos niños que han descubierto un juguete maravilloso, lo observamos extasiados, nos lo llevamos a los ojos.. y no nos damos cuenta de que es una pistola.
Y da igual, las grandes compañías han apostado por ello, así que se hará una realidad, luego ya veremos como lidiamos con ella. Yo la uso a menudo, me facilita muchas cosas, pero hay que tener muy claro hasta donde puede llegar. Me parece triste que, para algunas personas, hasta pueda reemplazar a otras personas, que la usen para contar cómo se sienten, dice muy poco de nuestra sociedad.
Un abrazo
Todavía no existe la IA, son MLL (machine learning language), no piensan, solo manejan granes cantidades de información. Cuando lleguemos realmente a una IA, a un objeto que piense como un humano, ahí comenzarán los verdaderos "problemas".
Saludos,
J.
A mí viene a ocurrirme lo mismo que a ti con la inteligencia artificial. Supongo que es positiva o negativa dependiendo en qué manos cae.
Hace unos meses hablé con un médico de edad avanzada que tiene hijos que también son médicos.
Me confesó que tanto él como sus hijos coincidían en que la inteligencia artificial diagnosticaría y curaría mejor que ellos. No tenían ninguna duda que así sería.
Conozco a una persona que trabaja en el sector informático y que posee un alto grado de competencia profesional. Su previsión es de que desaparecerán muchísimos puestos de trabajo y a la larga el suyo también.
Estamos en el principio del proceso.
Habrá que ir buscando cómo equilibrar el mundo que vendrá con el que nosotros hemos conocido.
Besos.
No nos ha de caber ninguna duda, que la IA, en cuanto que está desarrollada por humanos, conseguirá un nivel de estupidez igual o mejor al que tenemos sin la IA.
Besos.
Hace muchos años, John Searle distinguió por primera vez lo que hoy llamamos ''IA fuerte'' e ''IA débil'', negando la posibilidad de crear una ''IA fuerte''. Searle adujo que, por mucho que la inteligencia artificial evolucione hasta ser casi indistinguible de la mente humana (superándola, por lo demás, en el procesamiento especializado de cálculo), seguiría careciendo de ''intencionalidad''. Dicho de otra forma, no vería sentido a lo que está haciendo. Para divulgarlo hizo popular el experimento mental de la habitación china, que igual te interesa, como traductora.
https://es.wikipedia.org/wiki/Habitaci%C3%B3n_china
Este asunto sigue siendo controvertido, y sin duda lo seguirá siendo. La IA lleva ya mucho tiempo entre nosotros, pero en los últimos años ha dado pasos de gigante, y cada vez nos acompañará mas en el día a día, lo queramos o no. Se perderán muchos puestos de trabajo y, aparte, yo también comparto contigo otras inquietudes, como lo que dices del aprendizaje de idiomas, que podríamos ampliar a la escritura de novelas, guiones, música... Parafraseo lo que dijo no recuerdo qué escritor:
''No quiero que la IA escriba una novela por mí; prefiero que me lave los platos y haga la colada, que me facilite la vida para que yo disponga de más tiempo para escribir mejor mi novela''. Totalmente de acuerdo.
Personalmente, me resisto a caer en el optimismo ingenuo de algunos, que solo ven en color de rosa, pero tampoco quiero caer en el pesimismo del futuro negro.
Como profesor, vi llegar como un relámpago el famoso ChatGPT entre los alumnos, y cómo esta herramienta lo cambió todo de la noche a la mañana, teniendo que adaptarnos rápido para evaluar de forma justa. Quizá por ello, entre otras cosas, me sigo resistiendo a usarlo, aunque no hayan dejado de recomendármelo. No me gusta que nadie escriba por mí, ni desconocer las fuentes de donde extraigo la información. Pero no soy en absoluto tecnófobo, pues como bien dices, la IA será una herramienta magnífica para la medicina, entre otras muchísimas cosas. La tecnología, bien usada, siempre suma, nunca resta, o así debería ser. Leyendo esta entrada, veo que vemos el asunto parecido. Será necesario, eso sí, ir regulando su uso en leyes y normativas varias, y no desatender la pedagogía al respecto.
Me he enrollado. Perdona.
Me vas a perdonar que adjunte un link a este comentario. No suelo hacerlo, pero en este caso creo que viene al pelo, como suele decirse:
https://www.enriquedans.com/2024/11/algo-pasa-con-gemini.html
En resumen, la cosa viene siendo un comentario sobre un extraño comportamiento de una de esas maravillas técnicas que están surgiendo en estos tiempos. Lo que ha hecho Gemini no pasa de ser un comentario "fuera de tiesto", sin mucha lógica, pero es también un aviso de que los sistemas pueden empezar a funcionar por su cuenta hasta no sabemos qué punto. Ojo, no soy de los que están todo el tiempo inventando distopías, pero sí creo que hace falta un control muy serio sobre una tecnología que en algunos aspectos puede llegar a ser una caja de Pandora. O no. Vaya usted a saber.
Saludos mil
Así es, Beauséant, un "juguetito" que es un arma de doble filo, como todo, y da recelo, como mínimo, pensar en qué usos llegará a tener.
Tu última observación es inquietante. ¿Es que hay quienes acuden a una IA en vez de a un psicólogo, o a un amigo? Pues sí que dice poco de nosotros mismos.
Un abrazo.
Bueno, José A., si existe el "machine learning", o aprendizaje automático, es porque existe la IA, ya que el ML es un campo de ésta.
La IA es un mundo que engloba otros, y ya iremos viendo por dónde sale la cosa.
Saludos!
Eso es, Macondo, nada es del todo blanco o negro, del todo bueno o malo. Lo que inquieta no es la cosa en sí, sino las posibilidades que tiene para "los malos".
Un saludo.
Efectivamente, Toro, ése es uno de los asuntos que más preocupan, que van a desaparecer muchos empleos, muchas profesiones, porque sus tareas las desempeñará la IA con más precisión y menos coste. Lo malo es que hay cosas que además de precisión técnica requieren amor, pasión, empatía, como es el caso de la medicina o el arte...
Pero esto es imparable, así que más nos vale, como bien dices, ir buscando la forma de adaptarnos.
Besos.
Jaja, pues sí, Alfred, es la paradoja que me trae de cabeza.
Besos.
Gracias por el enlace, Rodión. No conocía el experimento de Searle, y me parece muy interesante.
Yo creo que la intencionalidad, la conciencia de lo que se hace, influye en los resultados de cualquier operación, en este caso lingüística. Porque esa conciencia, esa intención, es lo que podríamos llamar el espíritu o el alma de un texto.
Cuando un texto carece de intención, porque se ha escrito sin que al que escribe le importe realmente lo que escribe, o porque se ha traducido sin haber captado la del autor original, decimos que es frío, mecánico, monótono, repetitivo, etc.
Y eso es lo que, por ahora, se le achaca a los textos creados por herramientas como chatgpt.
Lo malo es que hay muchos a los que eso les da igual. Lo que quieren es el resultado inmediato y sin coste que proporcionan esas herramientas. Y a mí me preocupa ese desdén por la "humanidad" de las cosas, que a la larga producirá un embotamiento de la sensibilidad. Aunque, por otro lado, esto lleva tiempo pasando especialmente en el mundo de la cultura.
¿Qué decías de enrollarse? :D
Gracias por tu comentario.
No hay nada que perdonar, Rick. Al contrario, te agradezco el enlace, aunque me ha puesto un poquito nerviosa, jeje.
Y es que yo no estoy tan segura de que la respuesta de Gemini sea un fallo, un comentario sin lógica. Al contrario, le veo una lógica escalofriante, precisamente por lo que dices tú, porque parece un aviso siniestro de lo que podría llegar a pasar, y que ya hemos visto muchas veces en visionarias obras de ciencia ficción.
Lo cierto es que por un lado me resisto a creer que podamos llegar a eso, y por otro, viendo la velocidad a la que van las cosas, no puedo evitar pensarlo.
Y sin duda, hará falta un control y una regulación de los usos de la IA, como señalais Rodión y tú, pero me da miedo pensar que si no somos capaces de controlar algo tan "básico" como Facebook o X, cómo vamos a ponerle puertas a un campo infinitamente más extenso.
Otros mil.
Muy interesante ÁNGELES, todo, tu texto y todos los comentarios ilustrados, enhorabuena! Pienso como todos vosotros, creo que la IA está aquí y ha llegado para quedarse, que como cualquier otra tecnología tiene su parte positiva y los peligros intrínsecos que conlleva lo nuevo, pero más allá de su evolución y en mi opinión -que se sepa hasta la fecha- incapacidad para sentir/crear , motivo por el cual creo que el arte y todo lo relacionado con la empatía y sensibilidad humana, estará siempre fuera de su alcance, a mi además de todo eso, lo que de verdad me preocupa es el aparentemente fácil acceso que puede tener de su uso cualquier tarado, degenerado o psicópata para implementar su capacidad de hacer daño al prójimo .. eso me aterra, es decir ¿ quien regula quién y para qué la usa? eso y las terribles injusticias que se van a generar si se deja en manos de algoritmos asuntos como determinar la culpabilidad de las personas, su idoneidad para asuntos complejos e incluso selección en materias delicadas ... todos estos ámbitos son peligrosísimos en manos cibernéticas.. y sí, aun cuando efectivamente los humanos cometemos errores y como bien dices nuestra estupidez es inmeensa, nuestro campo de acción es limitado... cosa que no ocurre con al IA, por tanto, aumentando el campo de acción, aumenta exponencialmente las consecuencias nefastas al lado de las ventajosas. Un beso!
Hola, María. Muchas gracias por tus amables palabras, y me alegra mucho que te haya resultado interesante.
Tienes razón, nosotros no tenemos el alcance de actuación de la IA (por lo menos los ciudadanos de a pie...), y por eso es tan inquietante todo. Por eso y porque, a pesar de que muchos digan que al principio toda nueva tecnología nos resulta amenzante , lo cierto es que nunca ha habido una tecnología como ésta, que, como mínimo, se pone al mismo nivel que el ser humano y es capaz de hacer las mismas cosas y mejor.
En fin, ya iremos viendo...
Un beso.
¿Es que hay quienes acuden a una IA en vez de a un psicólogo, o a un amigo? Sí, los hay, parece una locura, pero tiene parte de lógica, la soledad nos lleva por caminos extraños y cuando te ahogas, no sé, supongo que cualquier cosa te parece un salvavidas, ¿no?
He leído algunos estudios al respecto y, sospecho, que la cosa irá a peor... no es que tenga dotes de adivina, es que las cosas, últimamente, muestran una extraña tendencia a "ir a peor" :)
Es verdad, tiene lógica, teniendo en cuenta la marcha de las cosas. Y supongo, como apuntas, que llegará el momento en que ya no nos sorprenderá nada...
Gracias :)
Uff, este es un tema que da para hablar largo y tendido.
Me pasa exactamente como a ti (y creo que como a la mayoría de nosotros), que por un lado estamos maravillados al ir descubriendo lo que consiguen hacer estas IAs, y por otro (y al mismo tiempo), subyace un temor muy grande por lo que todo esto puede llegar a convertirse.
No es el típico rechazo que siempre ha habido ante todo lo nuevo por el simple hecho de ser desconocido, es que creo que aquí sí hay algo que va a suponer una ante y un después en la Humanidad.
Me aterra pensar que en el futuro podamos depender tanto de estas inteligencias que nos hagamos unos perfectos inútiles, sin motivación alguna por aprender o crear cosas, porque no van a sustituir el trabajo físico, sino el cognitivo y creativo.
Desde luego, hoy por hoy, me parece un tema muy inquietante.
Ya lo creo, JuanRa, es un tema de mucha enjundia, complicado y con muchos recovecos.
Eso he pensado yo también muchas veces, que ahora no se trata sólo de la reticencia logica que trae consigo toda innovación y todo lo que suponga un cambio importante respecto al estado de cosas anterior. Se trata de algo que puede cambiarlo todo absolutamente, algo que, como bien dices, supone un antes y un después en la historia de la humanidad; que puede ir a favor y en contra de nosotros mismos como civilización.
Y también he pensado mucho en la desmotivación que puede suponer, el desencanto, la frustración de ver cómo algo tan propio del ser humano, tan ancestral e íntimo como es la capacidad creativa, puede ser suplantado por un "mecanismo" artificial que hace lo mismo pero sin que le importe, sin que suponga nada, sin que tenga ningún sentido.
Y lo peor de todo, me parece a mí, no es que una máquina pueda hacer los mismo que un ser humano pero sin humanidad, sino que haya personas, empresas, entidades, a las que no les importe esa falta de alma en las creaciones si con ello se ahorran unos euros.
Es todo muy inquietante, sí.
Oigo hablar últimamente en todas partes de la IA, siempre en tono apocalíptico, la gran amenaza a nuestra civilización. No hago mucho caso, ya que la IA no existe, no ha existido nunca y es poco probable que exista en el futuro previsible: no creo que ninguno de nosotros llegue a verla.
Para mí, la IA sería algún artilugio fabricado por el hombre, capaz de simular el funcionamiento de un cerebro humano. Hasta donde yo sé, no hay tal cosa. Lo que sí hay es un concepto que aparece profusamente en la literatura y películas de ciencia-ficción. Y que se viene utilizando últimamente con fines comerciales. Todo parece mejor (y más caro) si ha sido diseñado usando IA. Es como decir que un producto es "sostenible" o "ecológico". Palabrería. Si oyes esos términos es que alguien está a punto de venderte algo.
Mientras no tengamos un buen modelo operacional del cerebro humano, no puede haber IA tal y como se está diciendo. Y si preguntamos a un neurólogo cómo funciona el cerebro, si es honesto responderá que no lo sabemos, aparte de algunas vaguedades sobre áreas especializadas del cerebro, por donde los cirujanos caminan sin saber muy bien lo que están haciendo. Isaac Asimov se sacó de la chistera el concepto de "cerebro positrónico" para eludir este problema. La ciencia-ficción tiene la ventaja de que, ante una cuestión científica que desconoce, puede inventar algo que supla nuestra ignorancia, sea un "cerebro positrónico" o una "nave superlumínica", cuando no la amable ayuda de una civilización extraterrestre que acuda en nuestro auxilio.
Mientras nos distraemos con estas banalidades, veremos juguetes interesantes, robots de aspecto humanoide (¿por qué?), computadoras que ganan al ajedrez a grandes maestros, aplicaciones que generan textos a nuestro antojo, todo ello carísimo, y con un coste energético (un guiri diría una "huella de carbono") que todos sabemos de dónde viene.
A mí, todo eso de la IA me sigue pareciendo un timo, una de esas promesas de la ciencia que no llega a cumplirse nunca; como los viajes espaciales, la cura del cáncer, la generación de energía limpia de fusión, etc. Mientras sigamos tragándonos todos esos bulos y pagando nuestros impuestos, todo seguirá igual.
Creo que pertenezco al foro que en Reddit llaman "The10thDentist", por aquello de que "nueve de cada diez dentistas recomiendan…", mientras que el foro se define como "The 10th Dentist is someone who sincerely, or professionally, disagree with the broad majority of people".
Saludos.
Supongo, entangled, que la inteligencia artificial no existe en el sentido estricto de inteligencia, es decir de la inteligencia humana, que engloba un montón de capacidades diferentes y se manifiesta de muchas formas. Pero sí que existe algo que hemos dado en llamar "inteligencia" porque de alguna manera imita algunas de las capacidades humanas. Por ejemplo, la capacidad de crear imágenes, textos, melodías, etc. Esas creaciones serán más o menos simplonas o incluso chapuceras a veces, pero lo cierto es que existen programas o aplicaciones, o lo que sea, que son capaces de hacerlo. Y eso sólo a nivel básico, de usuario, de andar por casa. En otros niveles superiores no digamos.
Por otro lado, yo también me pregunto por qué ese empeño en darle forma humana a los robots, con lo perturbadores que resultan. A mí me dan escalofríos, la verdad, y no quisiera ver uno de esos engendros por mi casa. La roomba ya me parece desasosegante... :D
En fin, a mí también me encantaría ser como el décimo dentista, pero respecto a la IA soy por lo visto como los otros nueve, porque me creo casi todo lo dicen y me preocupo.
Como siempre, gracias por tus aportaciones.
Saludos!
Este es un tema peliagudo y que da un poquito de miedo. No estamos hablando de un adelanto tecnológico que hará el trabajo duro por nosotros y nos dejará el resto, es que pretenden que sea capaz de hacer todo el trabajo, incluso el intelectual y el artístico. Hay libros ya de cómo escribir con la IA y editoriales con programas para detectar si algo está escrito con la IA. Es algo que no comprendo, pero si el hecho de escribir, por ejemplo, es el inventarte la historia, los personajes, plasmarlo en palabras y es voluntario y necesario para ti... ¿por qué vas a recurrir a la IA?
Yo creo que la IA de inteligente, por el momento, no tiene mucho. Como dices, las traducciones tienen errores. En algunos contextos es muy peligroso una mala traducción.
En realidad, la IA es una recopilación de datos ya existentes y lo mezclan pretendiendo crear algo nuevo. Aunque algunos crean que lo sabe todo (yo misma, que no sé mucho, he corregido a la IA en una respuesta sobre la autoría de una serie de novelas donde metió la pata) y hasta la tengan como un oráculo, no lo es.
Y, por supuesto que será capaz de cometer estupideces tan grandes o más que los seres humanos.
No estoy en contra de la IA, pero creo que hay que ponerle límites y, lamentablemente, la legislación irá por detrás. No verán los problemas causados hasta que se hayan acumulado.
Veo programas donde debaten sobre el paro, el empleo, sobre si la jubilación está asegurada o no, pero en ninguno de ellos hay nadie que introduzca el factor de la IA y de los robots que harán nuestros trabajos y cómo nos dejarán en el paro. Quizá no lo ven o no les parece serio hablar de ello en el debate de si la generación que ahora tiene 40 años llegará a cobrar el paro porque serán muchos los pensionistas frente a los ocupados... Pero ¿quién cotizará y a quién se le cobrará impuestos si los que trabajan no son personas? ¿Vamos a cobrarles a los robots o a las IA? Si precisamente las quieren para ahorrarse nuestros sueldos y nuestros derechos de descanso semanal, mes de vacaciones, bajas, etc...
P.D. Para mí si la inteligencia lleva un "artificial" detrás, no es inteligencia real... y, por supuesto, creo que imitarán los sentimientos, pero no los sentirán.
Así es, MJ, un tema muy peliagudo y tan complejo, con tantos aspectos, que a veces me mareo cuando me pongo a pensar en ello. Y conste que yo tampoco estoy en contra de la IA globalmente.
Ya está asumido que van a desaparecer muchas profesiones, muchos empleos, y me pregunto en qué clase de seres desmotivados nos vamos a convertir, con lo que conlleva una desmotivación generalizada y colectiva.
En mis momentos más optimistas pienso que a lo mejor todo esto provoca una nueva revalorización de lo artesanal, de lo hecho a mano, y que nos volveremos todos más hábiles, más creativos y, en ese sentido, más naturales. Porque todo tiene su contrapartida y esto ha de tenerla también.
En fin, ya se irá viendo...
Publicar un comentario