{"id":76123,"date":"2024-05-15T07:59:09","date_gmt":"2024-05-15T05:59:09","guid":{"rendered":"https:\/\/www.verificat.cat\/?p=76123"},"modified":"2024-05-15T08:03:29","modified_gmt":"2024-05-15T08:03:29","slug":"albert-sabater-buscamos-consideraciones-eticas-que-nos-permitan-usar-la-ia-de-una-manera-responsable","status":"publish","type":"post","link":"https:\/\/www.verificat.cat\/es\/albert-sabater-buscamos-consideraciones-eticas-que-nos-permitan-usar-la-ia-de-una-manera-responsable\/","title":{"rendered":"Albert Sabater: \u201cbuscamos consideraciones \u00e9ticas que nos permitan usar la IA de una manera responsable\u201d"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Albert Sabater es Doctor en Estad\u00edstica Social, Censos y Encuestas por la Universidad de Manchester. Actualmente, es investigador para el proyecto AI FORA (Artificial Intelligence for Assessment) i Director de l\u2019Observatori d&#8217;\u00c8tica en Intel\u00b7lig\u00e8ncia Artificial de Catalunya (OEIAC). Albert Sabater tambi\u00e9n colabor\u00f3 en la confecci\u00f3n de la <a href=\"https:\/\/desfake.cat\/recursos\/\" target=\"_blank\" rel=\"noreferrer noopener\">C\u00e1psula 8. Inteligencia artificial generativa<\/a> de nuestro proyecto educativo <a href=\"https:\/\/desfake.cat\/\" target=\"_blank\" rel=\"noreferrer noopener\">Desfake<\/a>.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u00bfPor qu\u00e9 necesitamos una \u00e9tica para la inteligencia artificial?<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Nosotros en realidad lo que buscamos no es una \u00e9tica para la inteligencia artificial.<strong> Lo que buscamos es tomar una serie de consideraciones \u00e9ticas que nos permitan usar la IA de forma responsable.<\/strong> Dicho de otra forma, la IA no necesita una \u00e9tica, lo que necesita es que haya personas que tengan consideraciones \u00e9ticas a la hora de usarla. En realidad la IA como tal carece de agencia, no tiene una moral que le permita tomar decisiones por nosotros con \u00e9tica. Por tanto, deber\u00edamos tener esto en cuenta desde el principio. Hablamos de usos \u00e9ticos de la IA m\u00e1s que de una IA \u00e9tica.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La \u00e9tica es mucho m\u00e1s que tomar en consideraci\u00f3n lo bueno o malo. Es necesario ser conscientes del riesgo potencial de hacer un mal uso de los sistemas de IA. Debemos ser, entre otras cosas, transparentes y poder explicar lo que hacemos: <strong>visibilizar la cadena de razonamientos que tomamos en consideraci\u00f3n para finalmente tomar una decisi\u00f3n con IA o sin ella.<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Las consideraciones \u00e9ticas no pasan solo por ser transparentes, tambi\u00e9n pasan por ser responsables de lo que hacemos con los sistemas de IA y al mismo tiempo no transferir las responsabilidades en el proceso de decisiones automatizadas. No decir, por ejemplo, \u201cyo no me he equivocado, se ha equivocado la IA\u201d. La transparencia nos ayuda, entre otras cosas, a ser m\u00e1s responsables. No solo aquellos que desarrollan las herramientas, sino tambi\u00e9n usuarios. Aqu\u00ed ya entra un elemento de responsabilidad compartida.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Debemos tomar en consideraci\u00f3n que desde el dise\u00f1o hasta su implementaci\u00f3n existen elementos de seguridad y de no maleficencia. <strong>De tomar conciencia de que con las m\u00e1quinas, nuestras manos automatizadas, podemos hacer da\u00f1o. <\/strong>Por tanto, es muy importante tener en cuenta que un criterio fundamental m\u00e1s all\u00e1 de la prudencia \u2014que es el paraguas de todo\u2014 es la seguridad y la no maleficencia.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se ha dicho que los sistemas de IA utilizan mucha informaci\u00f3n, especialmente las actuales. Y, en consecuencia, para que estos sistemas sean muy eficaces y eficientes, procesan mucha informaci\u00f3n que es personal. <strong>Hay que tener en cuenta la privacidad y que las consideraciones \u00e9ticas pasen por este derecho fundamental.<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En este conjunto de principios es relevante la autonom\u00eda. Que tengamos suficiente libertad de tomar decisiones informadas con IA o sin ella, que la IA no limite nuestra toma de decisiones, nuestra autodeterminaci\u00f3n y libertad. Es evidente que siempre estamos m\u00e1s o menos afectados por muchas cosas a la hora de tomar decisiones, por influencias de familiares y amigo cercanos\u2026 pero estos no tienen la capacidad de manipulaci\u00f3n que tienen las m\u00e1quinas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por \u00faltimo, hay un elemento que no es poco en este conjunto de principios: la sostenibilidad. Cuando nosotros utilizamos sistemas de IA, utilizamos m\u00e1s y m\u00e1s m\u00e1quinas para nuestra vida cotidiana, el sistema acaba siendo completamente insostenible, <strong>por nuestra dependencia, pero tambi\u00e9n por el consumo que representa. <\/strong>Ahora empieza a ser seguro que la huella energ\u00e9tica es muy elevada. No solo el consumo energ\u00e9tico, sino las personas involucradas, la parte m\u00e1s social, que hacen que funcionen estos sistemas a trav\u00e9s de etiquetado y moderaci\u00f3n de contenidos, la mayor\u00eda con salarios muy bajos. Las industrias que ya conocemos y que tienen que ver con la extracci\u00f3n de recursos de mala obra. La realidad es mucho m\u00e1s social y econ\u00f3mica de lo que podr\u00edamos pensar en un primer momento.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>M\u00e1s all\u00e1 de la regulaci\u00f3n legal, se nos plantea la duda de c\u00f3mo construir un sistema de valores en torno al uso de la IA generativa. Especialmente desde los centros educativos con estudiantes.<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Es importante distinguir que no todas las herramientas son iguales y no todas es necesario trabajarlas con todas las edades. Quiz\u00e1s no utilices la inteligencia artificial con ni\u00f1os muy peque\u00f1os porque deben desarrollar las habilidades creativas y la autonom\u00eda. Entonces, utilizaremos la IA, pero \u00bfqu\u00e9 sistemas y cu\u00e1ndo? Debemos preguntar cu\u00e1les son los mejores para utilizar en las escuelas en cada grado y utilizarlos de forma cr\u00edtica.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Podemos empezar a incluir sistemas de rob\u00f3tica que generalmente son \u00fatiles para hacer ver c\u00f3mo nos beneficiamos de las m\u00e1quinas sin mucha agencia, como un brazo rob\u00f3tico. <strong>De ah\u00ed, hacia sistemas con capacidades manipulativas, gesti\u00f3n de datos, que quiz\u00e1s demandan una visi\u00f3n m\u00e1s cr\u00edtica y necesitan una comprensi\u00f3n de sus limitaciones.<\/strong> Hay que entender los riesgos de estas tecnolog\u00edas, tener conciencia de que, al margen de la legislaci\u00f3n, los alumnos deben hacer un buen uso y limitarlo muy bien. Esto es ser consciente de los riesgos no solo a nivel personal, sino como escuela y como comunidad educativa.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>\u00bfDialogamos esta \u00e9tica o ponemos l\u00edmites muy claros?<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">No podemos poner los l\u00edmites lo que el alumnado har\u00e1 en casa o fuera con los amigos. La escuela sirve justamente para educar, si tiene que hacer algo es dirigir y capacitar en la t\u00e9cnica de uso de estas herramientas. El problema generalmente es que tenemos unos horarios bastante apretados y cuesta poner competencias nuevas.Tambi\u00e9n, si no hay formaci\u00f3n, no se puede incluir como competencia en la que es necesario educar al alumnado.<strong> M\u00e1s que poner l\u00edmites, es necesario poder formar a los ni\u00f1os para utilizar estas herramientas de la mejor manera posible.<\/strong> En algunos casos, los l\u00edmites ser\u00e1 que no haya compa\u00f1\u00edas que abusen de la comunidad educativa para sacar el m\u00e1ximo provecho de los datos que generan los alumnos cuando utilizan este tipo de sistemas, de utilizar las escuelas como laboratorios. Quien decide c\u00f3mo se experimenta no deben ser las empresas, sino el profesorado, la direcci\u00f3n en acuerdo con el alumnado y las familias. Si las empresas entran de esta forma en las escuelas, es un problema.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La \u00e9tica es mucho m\u00e1s que tomar en consideraci\u00f3n lo bueno o malo. Es necesario ser conscientes del riesgo potencial de hacer un mal uso de los sistemas de IA. <\/p>\n","protected":false},"author":51,"featured_media":76121,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3],"tags":[27],"class_list":["post-76123","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categorizar","tag-entrevistes-es","vc-legacy-post"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/posts\/76123","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/users\/51"}],"replies":[{"embeddable":true,"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/comments?post=76123"}],"version-history":[{"count":0,"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/posts\/76123\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/media\/76121"}],"wp:attachment":[{"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/media?parent=76123"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/categories?post=76123"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.verificat.cat\/es\/wp-json\/wp\/v2\/tags?post=76123"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}