Parte de lo que nos hace humanos es la forma única en que pensamos y resolvemos problemas. Pero el uso de grandes modelos de lenguaje como ChatGPT puede erosionar esta singularidad y llevar a las personas a pensar y comunicarse de la misma manera, según un grupo de científicos y psicólogos coautores de un nuevo artículo de opinión.
“Existen diferencias en la forma en que los individuos escriben, razonan y ven el mundo”, dijo Jhivar Sorati, científico informático de la Universidad del Sur de California y primer autor del artículo. en una declaración.
“Cuando estas diferencias están mediadas por el mismo LLM, sus distintos estilos lingüísticos, perspectivas y estrategias de razonamiento se homogeneizan, creando expresiones y pensamientos estandarizados entre los usuarios”, continuó Saurati.
papelPublicado el miércoles en la revista Trends in Cognitive Sciences, examina cómo millones de personas en todo el mundo utilizan el mismo puñado de chatbots y lo que eso significa para nuestras personalidades.
Piensa dentro de la caja
Investigación del banco encontró Un tercio de los estadounidenses utilizó ChatGPT el año pasado, el doble que en 2023. Y el uso de chatbots es mucho más común entre los adolescentes: Dos tercios dicen que usan chatbots y casi un tercio los usa a diario.
Las empresas también funcionan con inteligencia artificial. stanford encontró El 78% de las organizaciones utilizará IA en 2024, frente al 55% en 2023.
Por eso utilizamos mucho la IA. Pero el peligro es que perdamos diversidad en nuestra forma de pensar. El equipo observó que los LLM producen escritos que varían menos de lo que las personas crean por sí mismas.
Según los autores del artículo, una de las razones por las que los LLM pueden impulsar el pensamiento homogéneo es los datos utilizados para entrenarlos.
“Debido a que los LLM están capacitados para capturar y reproducir regularidades estadísticas en sus datos de capacitación, que a menudo ignoran el lenguaje y la ideología dominantes, sus resultados a menudo reflejan una porción estrecha y sesgada de la experiencia humana”, dice Sourty.
Por qué la diversidad es una cuestión de pensamiento
Los autores tienen buenas razones para advertir contra esta tendencia. El pensamiento homólogo socava el pluralismo, que es básicamente la idea de que múltiples perspectivas son buenas para la sociedad en su conjunto.
“Este valor del pluralismo reside en el principio arraigado de que el buen juicio requiere exposición a un pensamiento diverso”, escribieron los autores en el artículo. “Si no se controla, esta homogeneización corre el riesgo de aplanar los paisajes cognitivos que impulsan la inteligencia y la adaptabilidad colectivas”.
Entonces usamos diferentes formas de pensar. Encuentra más soluciones Un problema es que si perdemos la capacidad de pensar y comunicarnos de manera diferente, puede afectar la forma en que nos adaptamos a nuevas situaciones.
“La preocupación es que, si bien los LLM moldean la forma en que las personas escriben o hablan, también redefinen sutilmente lo que se considera un discurso convincente, un punto de vista válido o incluso un buen argumento”, dice Saurati.
Los autores también dicen que esta tendencia también afecta a las personas que no utilizan chatbots.
“Si mucha gente a mi alrededor piensa y habla de cierta manera, y yo actúo de manera diferente, me sentiré presionado a alinearme con ellos, porque parece una forma más creíble o socialmente aceptable de expresar mis ideas”, dice Sourati.
