# data[].attributes.headline
Análisis del uso excesivo de IA generativa en alumnado (universitario) 

# data[].attributes.subject
Análisis del uso excesivo de IA generativa en alumnado (universitario) 

# data[].attributes.body
Una investigación que analiza las posibles consecuencias del uso excesivo de la IA generativa —principalmente, Chat GPT—, se centra en estudiantes universitarios. Interesantes descubrimientos que pueden guiar la implementación de la IA en clases:

En alumnado motivado se usa la IA con prudencia.

En alumnado procrastinador se usa en exceso y sin tanto control.

Con el tiempo puede afectar la retención de la memoria, el funcionamiento cognitivo y las habilidades de pensamiento crítico.

Es interesante como punto de partida para establecer cómo se puede utilizar la IA, para qué aspectos y qué protocolo se podría crear. Es importante comunicarse con el alumnado para ver cómo se implementa.

Juan Antonio Chica Sabariego

# data[].attributes.attachment_link.readable_text
3005 Accesses

5 Altmetric

Metrics

Abstract

While the discussion on generative artificial intelligence, such as ChatGPT, is making waves in academia and the popular press, there is a need for more insight into the use of ChatGPT among students and the potential harmful or beneficial consequences associated with its usage. Using samples from two studies, the current research examined the causes and consequences of ChatGPT usage among university students. Study 1 developed and validated an eight-item scale to measure ChatGPT usage by conducting a survey among university students (N = 165). Study 2 used a three-wave time-lagged design to collect data from university students (N = 494) to further validate the scale and test the study's hypotheses. Study 2 also examined the effects of academic workload, academic time pressure, sensitivity to rewards, and sensitivity to quality on ChatGPT usage. Study 2 further examined the effects of ChatGPT usage on students' levels of procrastination, memory loss, and academic performance. Study 1 provided evidence for the validity and reliability of the ChatGPT usage scale. Furthermore, study 2 revealed that when students faced higher academic workload and time pressure, they were more likely to use ChatGPT. In contrast, students who were sensitive to rewards were less likely to use ChatGPT. Not surprisingly, use of ChatGPT was likely to develop tendencies for procrastination and memory loss and dampen the students' academic performance. Finally, academic workload, time pressure, and sensitivity to rewards had indirect effects on students' outcomes through ChatGPT usage.

Introduction

"The ChatGPT software is raising important questions for educators and researchers all around the world, with regards to fraud in general, and particularly plagiarism," a spokesperson for Sciences Po told Reuters (Reuters, 2023).

"I don't think it [ChatGPT] has anything to do with education, except undermining it. ChatGPT is basically high-tech plagiarism...and a way of avoiding learning." said Noam Chomsky, a public intellectual known for his work in modern linguistics, in an interview (EduKitchen & January21, 2023).

In recent years, the use of generative artificial intelligence (AI) has significantly influenced various aspects of higher education. Among these AI technologies, ChatGPT (OpenAI, 2022) has gained widespread popularity in academic settings for a variety of uses such as generation of codes or text, assistance in research, and the completion of assignments, essays and academic projects (Bahroun et al., 2023; Stojanov, 2023; Strzelecki, 2023). ChatGPT enables students to generate coherent and contextually appropriate responses to their queries, providing them with an effective resource for their academic work. However, the extensive use of ChatGPT brings a number of challenges for higher education (Bahroun et al., 2023; Chan, 2023; Chaudhry et al., 2023; Dalalah & Dalalah, 2023).

Scholars have speculated that the use of ChatGPT may bring many harmful consequences for students (Chan, 2023; Dalalah & Dalalah, 2023; Dwivedi et al., 2023; Lee, 2023). It has the potential to harmfully affect students' learning and success (Korn & Kelly, 2023; Novak, 2023) and erode their academic integrity (Chaudhry et al., 2023). Such lack of academic integrity can damage the credibility of higher education institutions (Macfarlane et al., 2014) and harm the achievement motivation of students (Krou et al., 2021). However, despite the increasing usage of ChatGPT in higher education, very rare empirical research has focused on the factors that drive its usage among university students (Strzelecki, 2023). In fact, majority of the prior studies consist of theoretical discussions, commentaries, interviews, reviews, or editorials on the use of ChatGPT in academia (e.g., Cooper, 2023; Cotton et al., 2023; Dwivedi et al., 2023; King, 2023; Peters et al., 2023). For example, we have a very limited understanding of the key drivers behind the use of ChatGPT by university students and how ChatGPT usage affects their personal and academic outcomes. Similarly, despite many speculations, very limited research has empirically examined the beneficial or harmful effects of generative AI usage on students' academic and personal outcomes (e.g., Yilmaz & Yilmaz, 2023a, 2023b). Even these studies provide contradictory evidence on whether ChatGPT is helpful or harmful for students.

Therefore, an understanding of the dynamics and the role of generative AI, such as ChatGPT, in higher education is still in its nascent stages (Carless et al., 2023; Strzelecki, 2023; Yilmaz & Yilmaz, 2023a). Such an understanding of the motives behind ChatGPT usage and its potentially harmful or beneficial consequences is critical for educators, policymakers, and students, as it can help the development of effective strategies to integrate generative AI technologies into the learning process and control their misuse in higher education (Meyer et al., 2023). For the same reasons, scholars have called for future research to delve deeper into the positives and negatives of ChatGPT in higher education (Bahroun et al., 2023; Chaudhry et al., 2023; Dalalah & Dalalah, 2023).

Taken together, the current study has several objectives that aim to bridge these gaps and significantly contribute to the body of knowledge and practice in higher education. First, responding to the call of prior research on the development of ChatGPT usage scale (Paul et al., 2023), we develop and validate a scale for ChatGPT usage in study 1. Next, we conduct another study (i.e., study 2) to investigate several theoretically relevant factors-such as academic workload, time pressure, sensitivity to rewards, and sensitivity to quality-which may potentially affect the use of ChatGPT by university students. In addition, concerns have been raised regarding the impact of ChatGPT on students' academic performance and creativity. For example, scholars consider the use of ChatGPT as "deeply harmful to a social understanding of knowledge and learning" (Peters et al., 2023, p. 142) and having the potential to "kill creativity and critical thinking" (Dwivedi et al., 2023, p. 25). However, empirical evidence regarding the harmful or beneficial consequences of ChatGPT usage remains largely unavailable. Therefore, we investigate the effects of ChatGPT usage on students' procrastination, memory retention/loss, and academic performance (i.e., CGPA). Together, this research aims to provide valuable insights for educators, policymakers, and students in understanding the factors that encourage the use of ChatGPT by students and the beneficial or deleterious effects of such usage in higher education.

Literature and hypotheses

Academic workload refers to the number of academic tasks, responsibilities, and activities that students are required to complete during a specific period, usually a semester. The workload encompasses the volume and complexity of assignments or projects (Bowyer, 2012). Students are put under high stress when they have an excessive amount of academic work to complete (Yang et al., 2021).

Studies indicate that overburdened students are more likely to rely on unethical means to complete their academic tasks instead of relying on their own abilities and learning. For example, Devlin and Gray ( 2007) found that students engage in unethical academic practices such as cheating and plagiarism when they are exposed to heavy workload. Similarly, Koudela-Hamila et al. ( 2022) found a significantly positive relationship between academic workload and academic stress among university students. In another study, Hasebrook et al. ( 2023) found that individuals were more likely to accept and adopt technology when their workload was high. Consistently, when students are faced with high workload, they look for ways to cope with this demanding situation. As a result, they use easy means or shortcuts (e.g., ChatGPT) to cope with such stressful situations (i.e., heavy workload). Consequently, we suggest:

Hypothesis 1

Workload will be positively related to the use of ChatGPT.

Time pressure is described as the perception that an impending deadline is becoming closer and closer (Carnevale & Lawler, 1986). Under time pressure, individuals use simple heuristics in order to complete tasks (Rieskamp & Hoffrage, 2008). Under high time pressure, students may consider the available time as insufficient to accomplish the assignments, and therefore they may rely on ChatGPT to complete these tasks. Preliminary research indicates that time pressure to complete academic tasks encourages plagiarism among students (Koh et al., 2011). Devlin and Gray ( 2007) also found that students engage in cheating and plagiarism under time pressure to complete their academic tasks. Similarly, those students who are exposed to time pressure adopt a surface learning approach (Guo, 2011), which indicates that the students may use shortcuts such as ChatGPT to complete their tasks within deadlines. Therefore, we argue that under high levels of time pressure, students are more likely to use ChatGPT for their academic activities. Consequently, we suggest:

Hypothesis 2

Time pressure will be positively related to the use of ChatGPT.

Sensitivity to rewards and use of ChatGPT

Sensitivity to rewards is the degree to which a student is worried or concerned about his or her academic rewards such as grades. As far as the relationship between sensitivity to rewards and ChatGPT usage is concerned, prior research does not help to make a clear prediction. For example, on the one hand, it is possible that students with higher sensitivity to rewards may be more inclined to use ChatGPT, as they perceive it as a means to obtain better academic results. They may see ChatGPT as a resource to enhance their academic performance and get good grades. Evidence indicates that individuals, who are highly sensitive to rewards or impulsive, have a tendency to engage in risky behaviors such as texting on their cell phones while driving (Hayashi et al., 2015; Pearson et al., 2013). This indicates that students, who are reward sensitive, may engage in risky behaviors such as the misuse of ChatGPT for academic activities or plagiarism.

On the other hand, it is also possible that students who are highly worried about their rewards may not use ChatGPT for the fear of losing their grades. Since the use of ChatGPT for academic activities is usually considered as an unethical mean (Dalalah et al., 2023; Dwivedi et al., 2023), highly reward sensitive individuals may be more cautious about using technologies that their teachers perceive as ethically questionable or could jeopardize their academic integrity and grades. Consequently, we suggest competing hypotheses:

Hypothesis 3a

Sensitivity to rewards will be positively related to the use of ChatGPT.

Hypothesis 3b

Sensitivity to rewards will be negatively related to the use of ChatGPT.

Sensitivity to quality and use of ChatGPT

Sensitivity to quality or quality consciousness refers to the extent to which students are perceptive when evaluating the standard and excellence of their educational activities. This sensitivity involves the students' consciousness of the quality of learning they are having (Olugbara et al., 2020) or the quality of contents (e.g., assignments or projects) they are working on. We suggest that students, who are sensitive to the quality of the contents, are more likely to use different tools to enhance the quality of their academic work.

Hypothesis 4

Sensitivity to quality will be positively related to the use of ChatGPT.

Procrastination occurs when people "voluntarily delay an intended course of action despite expecting to be worse off for the delay" (Steel, 2007, p. 66). Some individuals are predisposed to put off doing things until later (i.e., chronic procrastinators), whereas others only do so in certain circumstances (Rozental et al., 2022). Academic procrastination, which refers to the practice of routinely putting off academic responsibilities to the point that the delays become damaging to performance, is an important issue both for students and educational institutions (Svartdal & Løkke, 2022).

Hypothesis 5

Use of ChatGPT will be positively related to procrastination.

Related evidence demonstrates that daily mental training helps to improve cognitive functions among individuals (Uchida & Kawashima, 2008). Similarly, fast simple numerical calculation training (FSNC) was associated with improvements in performance on simple processing speed, improved executive functioning, and better performance in complex arithmetic tasks (Takeuchi et al., 2016). Moreover, Nouchi et al. ( 2013) found that brain training games helped to boost working memory and processing speed in young adults. Therefore, the extensive use of ChatGPT may yield an absence of such cognitive trainings, thereby leading to memory loss among students. Consequently, we suggest:

Hypothesis 6

Use of ChatGPT will be positively related to memory loss.

Academic performance refers to the level of accomplishment that a student demonstrates in his or her educational pursuits. The objective measure of a student's academic performance is indicated by cumulative grade point average (CGPA), which is a grading system used in educational institutions to measure a student's overall academic performance in a specific period, usually a semester.

If students effectively leverage the insights gained from ChatGPT to improve their understanding of a subject, it may positively influence their academic performance. However, if they rely solely on ChatGPT without putting in the necessary efforts, critical thinking, and independent study, it may harm their academic performance. Over-reliance on external sources, including generative AI tools, without personal engagement and active learning, can hinder the development of essential skills and the depth of knowledge required for academic success (Chan et al., 2023). Therefore, students who habitually use ChatGPT may end up demonstrating poor academic performance. Consequently, we suggest:

Hypothesis 7

Use of ChatGPT will be negatively related to academic performance.

We further suggest that ChatGPT usage will mediate the relationships of workload, time pressure, sensitivity to quality, and sensitivity to rewards with students' outcomes. Specifically, students who experience heavy workload and time pressure to complete their academic tasks are likely to engage in ChatGPT usage to cope with these stressful situations. In turn, reliance on ChatGPT may lead to delays in the accomplishment of the tasks (i.e., procrastination) because the students may believe that they can complete the tasks at any time without putting much efforts. Similarly, the excessively reliance on ChatGPT, as a substitute for their critical thinking and problem-solving skills, may hinder their ability to develop a deeper understanding of the subject matter, which can harmfully impact their academic performance (Abbas, 2023). Further, the high use of ChatGPT for academic tasks could potentially lead to reduced mental engagement, thereby exacerbating the risk of memory impairment (Bahrini et al., 2023; Dwivedi et al., 2023).

Moreover, ChatGPT usage will mediate the relationships of rewards sensitivity and quality sensitivity with procrastination, memory loss, and academic performance. The fear of losing marks (i.e., reward sensitivity) and the consciousness towards quality of academic work (i.e., sensitivity to quality), may influence the use of ChatGPT. In turn, the excessive (or less) use of ChatGPT may affect students' procrastination, memory loss, and academic performance. Together, we suggest:

Hypothesis 8

Use of ChatGPT will mediate the relationships of workload with procrastination, memory loss, and academic performance.

Hypothesis 9

Use of ChatGPT will mediate the relationships of time pressure with procrastination, memory loss, and academic performance.

Hypothesis 10

Use of ChatGPT will mediate the relationships of sensitivity to rewards with procrastination, memory loss, and academic performance.

Hypothesis 11

Use of ChatGPT will mediate the relationships of sensitivity to quality with procrastination, memory loss, and academic performance.

Methods (Study 1)

Item generation: We used scale development procedures proposed in prior research (Hinkin, 1998). We first defined ChatGPT usage as the extent to which students use ChatGPT for various academic purposes including completion of assignments, projects, or preparation of exams. Based on this definition, initially 12 items were developed for further scrutiny.

Initial item reduction: Following the guidelines of Hinkin ( 1998), we performed an item-sorting process during the early stages of scale development. In order to establish content validity of the ChatGPT usage scale, we conducted interviews from five experts of the relevant field. The experts were asked to evaluate each item intended to measure ChatGPT usage. The experts agreed that 10 of the 12 items measured certain aspects of the academic use of ChatGPT by the students. Based on the content validity, these 10 items were finalized for further analyses.

Sample and data collection

The 10-item scale for the use of ChatGPT was distributed among 165 students from numerous university across Pakistan. The responses were taken on a 6-point Likert type scale with anchors ranging from 1 = never to 6 = always. A cover letter clearly communicated that the participation was voluntary, and the student could decline participation at any point during data collection. The respondents were also ensured complete confidentiality of their responses. The sample consisted of 53.3% males. The average age was 23.25 year (S.D = 4.22). Around 85% universities were from public sector and the remaining belonged to private sector. Similarly, around 59% students were enrolled in business studies, 6% were enrolled in computer sciences, 9% were enrolled in general education, 5% were enrolled in psychology, 4% were enrolled in English language, 4% were enrolled in public administration, 9% were enrolled in sociology, and 4% were enrolled in mathematics. Furthermore, around 74% were enrolled in bachelor's programs, 22% were enrolled in master's programs, and 4% were enrolled in doctoral programs.

Exploratory factor analysis

Next, we conducted an exploratory factor analysis (EFA) to determine the factor structure of the proposed scale (Field, 2018; Hinkin, 1998). Principal component analysis (Nunnally & Bernstein, 1994) was used for extraction and the varimax rotation with Kaiser normalization was used as a rotation method. To ascertain the number of variables, the parameters of eigenvalue > 1 and the total percentage of variance explained > 50% were used. The results revealed that the Bartlett's test of sphericity was significant ( p < 0.001) and the Kaiser-Meyer-Olkin (KMO) sampling adequacy was 0.878 ( p < 0.001), which was greater than the threshold value of 0.50, thereby considered acceptable for sample adequacy (Field, 2018). Further, factor loadings and communalities above 0.5 are usually considered acceptable (Field, 2018). As shown in Table 1, the results revealed that item 4 and item 9 had low factor loadings and communalities.

Methods (Study 2)

The objective of study 2 was to further validate the 8-item ChatGPT scale developed in study 1. In addition, we tested the study's hypotheses in study 2. Figure 1 presents the theoretical framework of study 2. The study used a time-lagged design, whereby the data were collected using online forms in three phases with a gap of 1-2 weeks after each phase. The data were collected from individuals who were currently enrolled in a university.

Theoretical framework of the study

We used procedural and methodological remedies recommended by scholars (see, Podsakoff et al., 2012) to address issues related to common method bias. First, we clearly communicated to our participants that their involvement was voluntary, and they retained the right to decline participation at any point during data collection. In addition, we ensured complete confidentiality of their responses, emphasizing that there were no right or wrong responses to the questions. Finally, we used a three-wave time-lagged design to keep a temporal separation between predictors and outcomes (Podsakoff et al., 2012). In each phase, the students were asked to assigned a code initially generated by them so that the survey forms for each respondent could be matched. Moreover, ethical clearance and approvals from the ethics committees of the authors' institutions were also obtained. Since English is the official language in all educational institutions, the survey forms were distributed in English. Past research has also used English language for survey research (e.g., Abbas & Bashir, 2020; Fatima et al., 2023; Malik et al., 2023).

In the first phase, around 900 participants were contacted to fill the survey on workload, time pressure, sensitivity to quality, sensitivity to rewards, and demographics. At the end of the first phase, a total of 840 surveys were received. In the second phase, after 1-2 weeks, the same respondents were contacted to fill the survey on the use of ChatGPT. Around 675 responses were received at the end of the second phase. Finally, another two weeks later, these 675 respondents were contacted again to collect data on memory loss, procrastination, and academic performance. At the end of the third phase, around 540 survey forms were returned. After removing surveys which contained missing data, the final sample size consisted of 494 complete responses which were then used for further analyses.

Of these 494 respondents, 50.8% were males and the average age of the respondents was 22.16 (S.D. = 3.47) years. Similarly, 88% of the respondents belonged to public sector and 12% belonged to private sector universities. Around 65% students were enrolled in business studies, 3% were enrolled in computer sciences, 12% were enrolled in general education, 1% were studying English language, 9% were studying public administration, and 10% were studying sociology. Finally, around 74% were enrolled in bachelor's programs, 24% were enrolled in master's programs, and 2% were enrolled in doctoral programs.

Measures

All variables, except for the use of ChatGPT, were measured on a 5-point Likert type scale with anchors ranging from 1 = strongly disagree to 5 = strongly agree. Use of ChatGPT was measured on a 6-point Likert type scale with anchors ranging from 1 = never to 6 = always. The complete items for all measures are presented in Table 3.

Academic workload: A 4-item scale by Peterson et al. ( 1995) was adapted to measure academic workload. A sample item included, 'I feel overburdened due to my studies.'

Academic time pressure: A 4-item scale by Dapkus ( 1985) was adapted to measure time pressure. A sample item was, 'I don't have enough time to prepare for my class projects.'

Sensitivity to rewards: We measured sensitivity to rewards with a 2-item scale. The items included, 'I am worried about my CGPA' and 'I am concerned about my semester grades.'

Sensitivity to quality: Sensitivity to quality was measured with a 2-item scale. The items were, 'I am sensitive about the quality of my course assignments' and 'I am concerned about the quality of my course projects.'

Use of ChatGPT: We used the 8-item scale developed in study 1 to measure the use of ChatGPT. A sample item was, 'I use ChatGPT for my academic activities.'

Procrastination: A 4-item scale developed by Choi and Moran ( 2009) was used to measure procrastination. A sample item included, 'I'm often running late when getting things done.'

Memory loss: We used a 3-item scale to measure memory loss. A sample item was, 'Nowadays, I can't retain too much in my mind.'

Academic performance: We used an objective measure of academic performance to avoid self-report or social desirability bias. Each student reported his or her latest CGPA. The CGPA score ranges between 1 = lowest to 4 = highest. Since CGPA for each respondent was obtained as a single score, there was no need to calculate its reliability or validity.

Analyses and results (Study 2)

Measurement model

Measurement indicators outer-loadings and AVE (Study 2)

Furthermore, discriminant validity ensures that each latent construct is distinct from other constructs. As per Fornell and Larcker's ( 1981) criteria, discriminant validity is established if the squared root of the AVE for each construct is larger than the correlation of that construct with other constructs. As shown in Table 4, the squared root of the AVE for each construct (the value along the diagonal presented in bold) exceeded the correlation of that construct with other constructs, thereby establishing discriminant validity of all constructs. Similarly, Henseler et al. ( 2015) consider Heterotrait-Monotrait (HTMT) ratio as a better tool to establish discriminate validity, as a large number of researchers have also used it (e.g., Hosta & Zabkar, 2021). HTMT values below 0.85 are considered good to establish discriminant validity (Henseler et al., 2015). As shown in Table 4, all of the HTMT values were below the threshold, thereby establishing discriminant validity among the study's constructs.

Furthermore, in order to test multicollinearity, we calculated variance inflation factor (VIF), which should be less than 5 to rule out the possibility of multicollinearity among the constructs (Hair et al., 2019). In all analyses, VIF scores were less than 5, indicating that multicollinearity was not a problem.

Structural model

We then tested the study's hypotheses for direct and indirect effect using bootstrapping procedures with 5,000 samples in SmartPLS (Hair et al., 2017). The structural model is presented in Fig. 3.

Structural model (Study 2)

As presented in Table 5, the findings revealed that workload was positively related to the use of ChatGPT ( β = 0.133, t = 2.622, p < 0.01). Those students who experienced high levels of academic workload were more likely to engage in ChatGPT usage. This result supported hypothesis 1. Similarly, time pressure also had a significantly positive relationship with the use of ChatGPT ( β = 0.163, t = 3.226, p < 0.001), thereby supporting hypothesis 2. In other words, students who experienced high time pressure to accomplish their academic tasks also reported higher use of ChatGPT. Further, the effect of sensitivity to rewards on the use of ChatGPT was negative and marginally significant ( β = − 0.102, t = 1.710, p < 0.10), thereby suggesting that students who are more sensitive to rewards are less likely to use ChatGPT. These results supported hypothesis 3b instead of hypothesis 3a. Finally, we found that sensitivity to quality was not significantly related to the use of ChatGPT ( β = 0.033, t = 0.590, n.s). Thus, hypothesis 4 was not supported.

Consistent with hypothesis 5, the findings further revealed that the use of ChatGPT was positively related to procrastination ( β = 0.309, t = 6.984, p < 0.001). Those students who frequently used ChatGPT were more likely to engage in procrastination than those who rarely used ChatGPT. Use of ChatGPT was also found to be positively related to memory loss ( β = 0.274, t = 6.452, p < 0.001), thus hypothesis 6 was also supported. Students who frequently used ChatGPT also reported memory impairment. Furthermore, use of ChatGPT was found to have a negative effect on academic performance (i.e., CGPA) of the students ( β = − 0.104, t = 2.390, p  < 0.05). Students who frequently used ChatGPT for their academic tasks had poor CGPAs. These findings rendered support for hypothesis 7.

Table 6 presents the results for all indirect effects. As shown in Table 6, workload had a positive indirect effect on procrastination (indirect effect = 0.041, t = 2.384, p < 0.05) and memory loss (indirect effect = 0.036, t = 2.333, p < 0.05) through the use of ChatGPT. Students who experienced higher workload were more likely to use ChatGPT which in turn developed the habits of procrastination among them and caused memory loss. Similarly, workload had a negative indirect effect on academic performance (indirect effect = − 0.014, t = 1.657, p  < 0.10) through the use of ChatGPT. In other words, students who experienced higher workload were more likely to use ChatGPT. As a result, the extensive use of ChatGPT dampened their academic performance. These results supported hypothesis 8.

In addition, time pressure had a positive indirect effect on both procrastination (indirect effect = 0.050, t = 2.607, p < 0.01) and memory loss (indirect effect = 0.045, t = 2.574, p < 0.01), through an increased utilization of ChatGPT. Students facing higher time constraints were more inclined to use ChatGPT, ultimately fostering procrastination habits and experiencing memory issues. Similarly, time pressure had a negative indirect effect on academic performance (indirect effect = − 0.017, t = 1.680, p  < 0.10), mediated by the increased use of ChatGPT. Thus, students experiencing greater time pressure were more likely to rely heavily on ChatGPT, consequently leading to a dampening of their academic performance. Together, these results supported hypothesis 9.

Furthermore, sensitivity to rewards had a negative indirect relationship with procrastination (indirect effect = − 0.032, 1.676, p < 0.10) and memory loss (indirect effect = − 0.028, t = 1.668, p < 0.10) through the use of ChatGPT. Students who were sensitive to rewards were less likely to use ChatGPT and thus experience lower levels of procrastination and memory loss. However, the findings revealed that the indirect effect of sensitivity to rewards on academic performance was insignificant (indirect effect = 0.011, t = 1.380, p = 0.168). These findings supported hypothesis 10 for procrastination and memory loss only. Finally, the indirect effects of sensitivity to quality on procrastination (indirect effect = 0.010, t = 0.582, n.s), memory loss (indirect effect = 0.009, t = 0.582, n.s), and academic performance (indirect effect = − 0.003, t = 0.535, n.s) through the use of ChatGPT were all insignificant. Therefore, hypothesis 11 was not supported.

Overall discussion

Major findings

The recent emergence of generative AI has brought about significant implications for various societal institutions, including higher education institutions. As a result, there has been a notable upswing in discussions among scholars and academicians regarding the transformative potential of generative AI, particularly ChatGPT, in higher education and the risks associated with it (Dalalah & Dalalah, 2023; Meyer et al., 2023; Peters et al., 2023; Yilmaz & Yilmaz, 2023a). Specifically, the dynamics of ChatGPT are still unknown in the context that no study, to date, has yet provided any empirical evidence on why students' use ChatGPT. The literature is also silent on the potential consequences, harmful or beneficial, of ChatGPT usage (Dalalah & Dalalah, 2023; Paul et al., 2023) despite a ban in many institutions across the globe. Responding to these gaps in the literature, the current study proposed workload, time pressure, sensitivity to rewards, and sensitivity to quality as the potential determinants of the use of ChatGPT. In addition, the study examined the effects of ChatGPT usage on students' procrastination, memory loss, and academic performance.

The findings suggested that those students who experienced high levels of academic workload and time pressure to accomplish their tasks reported higher use of ChatGPT. Regarding the competing hypotheses on the effects of sensitivity to rewards on ChatGPT usage, the findings suggested that the students who were more sensitive to rewards were less likely to use ChatGPT. This indicates that rewards sensitive students might avoid the use ChatGPT for the fear of getting a poor grade if caught. Surprisingly, we found that sensitivity to quality was not significantly related to the use of ChatGPT. It appears that quality consciousness might not determine the use of ChatGPT because some quality conscious students might consider the tasks completed by personal effort as having high quality. In contrast, other quality conscious students might consider ChatGPT written work as having a better quality.

Furthermore, our findings suggested that excessive use of ChatGPT can have harmful effects on students' personal and academic outcomes. Specifically, those students who frequently used ChatGPT were more likely to engage in procrastination than those who rarely used ChatGPT. Similarly, students who frequently used ChatGPT also reported memory loss. In the same vein, students who frequently used ChatGPT for their academic tasks had a poor CGPA. The mediating effects indicated that academic workload and time pressure were likely to promote procrastination and memory impairment among students through the use of ChatGPT. Also, these stressors dampened students' academic performance through the excessive use of ChatGPT. Consistently, the findings suggested that higher reward sensitivity discouraged the students to use ChatGPT for their academic tasks. The less use of ChatGPT, in turn, helped the students experience lower levels of procrastination and memory loss.

Theoretical implications

The current study responds to the calls for the development of a novel scale to measure the use of ChatGPT and an empirical investigation into the harmful or beneficial effects of ChatGPT in higher education for a better understand of the dynamics of generative AI tools. Study 1 uses a sample of university students to develop and validate the use of ChatGPT scale. We believe that the availability of the new scale to measure the use of ChatGPT may help further advancement in this field. Moreover, study 2 validates the scale using another sample of university students from a variety of disciplines. Study 2 also examines the potential antecedents and consequences of ChatGPT usage. This is the first attempt to empirically examine why students might engage in ChatGPT usage. We provide evidence on the role of academic workload, time pressure, sensitivity to rewards, and sensitivity to quality in encouraging the students to use ChatGPT for academic activities.

The study also contributes to the prior literature by examining the potential deleterious consequences of ChatGPT usage. Specifically, the study provides evidence that the excessive use of ChatGPT can develop procrastination, cause memory loss, and dampen academic performance of the students. The study is a starting point that paws path for future research on the beneficial or deleterious effects of generative AI usage in academia.

Practical implications

The study provides important implications for higher education institutions, policy makers, instructors, and students. Our findings suggest that both heavy workload and time pressure are influential factors driving students to use ChatGPT for their academic tasks. Therefore, higher education institutions should emphasize the importance of efficient time management and workload distribution while assigning academic tasks and deadlines. While ChatGPT may aid in managing heavy academic workloads under time constraints, students must be kept aware of the negative consequences of excessive ChatGPT usage. They may be encouraged to use it as a complementary resource for learning instead of a tool for completing academic tasks without investing cognitive efforts. In the same vein, encouraging students to keep a balance between technological assistance and personal effort can foster a holistic approach to learning.

Similarly, policy makers and educators should design curricula and teaching strategies that engage students' natural curiosity and passion for learning. While ChatGPT's ease of use might be alluring, fostering an environment where students derive satisfaction from mastering challenging concepts independently can mitigate overreliance on generative AI tools. Also, recognizing and rewarding students for their genuine intellectual achievements can create a sense of accomplishment that may supersede the allure of quick AI-based solutions. As also noted by Chaudhry et al. ( 2023), in order to discourage misuse of ChatGPT by the students, the instructors may revisit their performance evaluation methods and design novel assessment criteria that may require the students to use their own creative skills and critical thinking abilities to complete assignments and projects instead of using generative AI tools.

Moreover, given the preliminary evidence that extensive use of ChatGPT has a negative effect on a students' academic performance and memory, educators should encourage students to actively engage in critical thinking and problem-solving by assigning activities, assignments, or projects that cannot be completed by ChatGPT. This can mitigate the adverse effects of ChatGPT on their learning journey and mental capabilities. Furthermore, educators can create awareness among students about the potential pitfalls of excessive ChatGPT usage. Finally, educators and policy makers can develop interventions that target both the underlying causes (e.g., workload, time pressure, sensitivity to rewards) and the consequences (e.g., procrastination, memory loss, and academic performance). These interventions could involve personalized guidance, skill-building workshops, and awareness campaigns to empower students to leverage generative AI tools effectively while preserving their personal learning.

Like other study, this study also has some limitations. First, although we used a time-lagged design, as compared to cross-sectional designs used by prior research (e.g., Strzelecki, 2023), we could not completely rule out the possibility of reciprocal relationships. For example, it is also possible that ChatGPT usage may also help lessen the subsequent perceptions of workload. Future research may examine these causal mechanisms using a longitudinal design. Second, in order to provide a deeper understanding of generative AI usage, future studies may examine how personality factors, such as trust propensity and the Big Five personality traits, relate to ChatGPT usage. Also, an understanding of how these traits shape perceptions of ChatGPT's reliability, trustworthiness, and effectiveness may shed light on the dynamics of user-machine interactions in the context of generative AI.

Moreover, our finding regarding the insignificant effect of quality consciousness on ChatGPT usage warrants further investigation. While some quality conscious students might consider personal effort as a condition to produce quality work, other quality conscious individuals might believe that ChatGPT can help achieve quality in academic tasks. Perhaps, some contextual moderators (e.g., propensity to trust generative AI) may play their role in determining the effects of quality consciousness on ChatGPT usage. In the same vein, fear of punishment may also discourage the use of ChatGPT for plagiarism. As noted by an anonymous reviewer, future studies may probe the benefits associated with the use of generative AI and also compare the dynamics of ChatGPT usage across numerous fields of knowledge (e.g., computer sciences, social sciences) or across gender to examine any differential effects. Finally, future research may probe the effects of ChatGPT usage on students' learning and health outcomes. By investigating how ChatGPT usage impacts cognitive skills, mental health, and learning experiences among students, researchers can contribute to the growing discourse on the role of generative AI in higher education.

Availability of data and materials

The data associated with this research is available upon a reasonable request.

Funding

There was no funding received from any institution for this study.

Author information

Authors and Affiliations

1. FAST School of Management, National University of Computer and Emerging Sciences, Islamabad, Pakistan

Muhammad Abbas

2. Global Illuminators, Kuala Lumpur, Malaysia

Farooq Ahmed Jam

3. Department of Science & Technology Studies, Faculty of Science, University of Malaya, Kuala Lumpur, Malaysia

Farooq Ahmed Jam

4. Institute of Management Sciences, The University of Haripur, Haripur, Pakistan

Tariq Iqbal Khan

Contributions

MA contributed to the conceptualization of the idea, theoretical framework, methodology, analyses, and the writeup. FAJ and TIK contributed to the data collection, methodology, analyses, and the write-up. All authors read and approved the final manuscript.

Corresponding author

Correspondence to Muhammad Abbas.

Ethics declarations

Ethics approval and consent to participate

The research was explicitly approved by the ethical review committee of the authors' university. All procedures performed in studies involving human participants were in accordance with the ethical standards of the institution.

Informed consent

Participants were informed about the study's procedures, risks, benefits, and other aspects before their participation. Only those who gave their consent were allowed to participate in the research.

Competing interests

The authors declare that they do not have any competing interests.

Additional information

Publisher's Note

Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations.

Rights and permissions

Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article's Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article's Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/.
Reprints and permissions

About this article

Download citation

# data[].attributes.attachment_link.title
Is it harmful or helpful? Examining the causes and consequences of generative AI usage among university students - International Journal of Educational Technology in Higher Education

# data[].attributes.attachment_link.description
While the discussion on generative artificial intelligence, such as ChatGPT, is making waves in academia and the popular press, there is a need for more insight into the use of ChatGPT among students and the potential harmful or beneficial consequences associated with its usage.

# data[].attributes.headline
Análisis de las limitaciones de la IA en el aula

# data[].attributes.subject
Análisis de las limitaciones de la IA en el aula

# data[].attributes.body
Un análisis que se centra en las principales limitaciones del uso de la Inteligencia Artificial (IA) en el aula, y que incluye las reglas de acción para implementar un uso responsable de la misma, entre las que se incluyen:

verificación de la información;

análisis crítico de contenidos;

diversificación de las fuentes o

seguridad de datos.

Es muy interesante para poder identificar y minimizar estas limitaciones, así como para hacer uso de la IA de la manera más responsable posible, siempre teniendo en cuenta que debe utilizarse como una herramienta complementaria y no sustitutiva de nuestras metodologías y estrategias de enseñanza.

Carolina Castro Moreno

# data[].attributes.attachment_link.readable_text
Tenemos que ser muy conscientes de lo que podemos esperar de la IA. La Inteligencia Artificial ha irrumpido en el ámbito educativo con un gran potencial para transformar la enseñanza y el aprendizaje. Sin embargo, es crucial que el profesorado esté al tanto de las limitaciones inherentes a esta tecnología para implementarla de manera eficaz y ética.

A continuación, se presentan algunas de las limitaciones más importantes que deben tenerse en cuenta:

Fiabilidad de la Información

La IA no debe ser considerada una fuente primaria de información, ya que está sujeta a numerosos errores que, además, son impredecibles.

Exactitud de los Datos: La IA opera basándose en algoritmos y datos previos, lo que significa que su precisión puede variar. Es importante contrastar la información generada con fuentes confiables.

Actualización de Contenidos: Los sistemas de IA pueden no estar al día con las últimas investigaciones o cambios curriculares, lo que podría llevar a la difusión de información obsoleta.

Alucinación de Datos: Los modelos de IA de texto pueden generar información potencialmente falsa para completar una respuesta. Es muy importante verificar cualquier dato o afirmación generada por la IA.

Aspectos Éticos

Sesgo en los Datos: Los algoritmos pueden reflejar sesgos culturales o sociales presentes en los datos de entrenamiento. Esto podría dar como resultado decisiones o evaluaciones injustas. El profesorado deberá evaluar la posible existencia de estos sesgos tanto en su propio uso de la tecnología como en el de su alumnado.

Interacción Humana

Limitaciones de la IA en la comprensión del contexto emocional y social.

Falta de Empatía: Aunque la IA puede simular conversaciones y responder preguntas, carece de la capacidad para entender el contexto emocional o social, algo que es intrínseco en la educación.

Limitaciones en la Evaluación: Los sistemas de IA están diseñados para evaluar respuestas basadas en criterios específicos y no pueden medir aspectos subjetivos y complejos del aprendizaje y desarrollo humanos.

Dependencia Tecnológica

Desafíos relacionados con el acceso equitativo a la tecnología y la personalización.

Acceso a la Tecnología: La falta de acceso equitativo a dispositivos y a Internet de alta velocidad puede generar desigualdades en el aprovechamiento de las herramientas basadas en IA.

Falta de Personalización: Aunque algunos sistemas de IA ofrecen aprendizaje adaptativo, no pueden reemplazar la intuición y la adaptabilidad del profesorado.

Formación del Profesorado

Importancia de la formación continua para el uso efectivo de la IA en el aula.

Necesidad de Formación Continua: La eficacia de la IA está directamente relacionada con la habilidad del profesorado para utilizarla, lo que implica una necesidad de formación continua.

En vista de estas limitaciones, es recomendable que el profesorado adopte un enfoque equilibrado y crítico al integrar la IA en el aula. La tecnología debe verse como un complemento a las estrategias de enseñanza, no como un sustituto. Además, es vital mantenerse actualizado y recibir formación continua para maximizar los beneficios de la IA mientras se minimizan sus desventajas.

Es también importante saber que muchas personas a lo largo de la historia han hablado de cualquier tema con seres no humanos: las estrellas, las cartas del tarot, las cenizas, las piedras, las mascotas, las deidades... Y podemos caer en los mismos errores que esas personas, al autoconvencernos de que los sistemas de IA puedan "explicar sus razonamientos o dar consejos sobre infinidad de asuntos". A este respecto dejamos un artículo, "Can LLMs Really Reason and Plan?" de Subbarao Kambhampati, para https://cacm.acm.org/ que nos habla de este tema

# data[].attributes.attachment_link.description
Tenemos que ser muy conscientes de lo que podemos esperar de la IA. La Inteligencia Artificial ha irrumpido en el ámbito educativo con un gran potencial para transformar la enseñanza y el aprendizaje. Sin embargo, es crucial que el profesorado esté al tanto de las limitaciones inherentes a esta tecnología para implementarla de manera eficaz y ética.

# data[].attributes.headline
Opinión de una ilustradora china sobre la IA.

# data[].attributes.subject
Opinión de una ilustradora china sobre la IA.

# data[].attributes.body
Esta ilustradora china está convencida de que en unos 10 o 15 años no será necesaria prácticamente la creación humana. Su razonamiento se basa en una aplicación para dibujo de cómics (CG) que apareció hace unos 20 años. Esta aplicación ya se ha convertido en herramienta indispensable para su trabajo. Afirma que el dibujo a mano se ha quedado con una afición privada, más o menos.

Desde la aparición de la IA, un estudio de cómics ya solo necesita a un ilustrador ¡en lugar de 10! Esta reducción tan drástica de personal le preocupa, aunque reconoce que es a lo que nos vemos abocados en la sociedad, sin vuelta atrás.

Afirma que la aparición-revolución de la IA es comparable con la aparición-revolución que supuso, en su momento, la herramienta CG para el dibujo de cómics, concluyendo que lo mejor es no negar la evidencia y meterse de lleno en lo que ya es una realidad, la IA.

Para esta ilustradora, el surgimiento de la IA no es sino un plus para la sociedad actual, gracias al que, ¿por qué no? algún día podrá no ser necesario ni trabajar, siempre y cuando haya un reparto equitativo de sus ventajas entre toda la sociedad (¿o sociedades?).

Comparto parciamente el punto de vista de esta ilustradora. Sí creo que la IA no tiene vuelta atrás, pero creo que no nos invadirá hasta anularnos, sino que progresivamente se adaptará a las necesidades de la sociedad, tal y como lo ha ido haciendo, por ejemplo, la informática.

Marisol Baenas Segura

# data[].attributes.attachment_link.title
我怎么看人工智能？AI会带给我们怎样的未来？脑洞大开的21世纪预言！

# data[].attributes.headline
Propuestas de la UNESCO para formular políticas educativas en materia de IA

# data[].attributes.subject
Propuestas de la UNESCO para formular políticas educativas en materia de IA

# data[].attributes.body
Ya desde mayo de 2019, con la celebración de la Conferencia de Beijing, la UNESCO viene tratando de guiar la integración de la IA en el contexto educativo a través de las políticas que los Estados Miembros pueden generar. Así, este organismo apoya que se saque "provecho del potencial de las tecnologías de la IA con miras a la consecución la Agenda de Educación 2030, al tiempo que vela por que su aplicación en contextos educativos responda a los principios básicos de inclusión y equidad."

Recomiendo que, además de la entrada que dejo en el enlace, echéis un ojo al tercer documento "Consenso de Beijing sobre la intelligencia artificial y la educacion" no solo por lo interesante de su contenido sino también porque está traducido a numerosos idiomas y podría incluso trabajarse con alumnado de niveles más altos para tratar en clase. En él se exponen las oportunidades y desafíos de la IA y las implicaciones para las competencias básicas que ya son necesarias en un entorno cada vez más digitalizado.

Natalia Palacios Guerrero

# data[].attributes.headline
9 formas en que la IA ayuda a combatir el cambio climático

# data[].attributes.subject
9 formas en que la IA ayuda a combatir el cambio climático

# data[].attributes.body
La inteligencia artificial (IA) está demostrando ser una herramienta poderosa en la lucha contra el cambio climático. Desde predecir el clima hasta mapear la deforestación y ayudar a las comunidades vulnerables, la IA está desempeñando un papel crucial en diversas áreas. Ejemplos incluyen la rápida detección de cambios en los icebergs, la vigilancia de la deforestación desde el espacio, y la predicción de desastres climáticos. Además, la IA se está utilizando para optimizar la gestión de residuos, limpiar los océanos de desechos plásticos y ayudar a las empresas a reducir sus emisiones de gases de efecto invernadero. Proyectos como la reforestación mediante drones en Brasil muestran el potencial innovador de la IA en la restauración ambiental. A medida que avanza, se espera que la IA continúe desempeñando un papel importante en la mitigación de los efectos del cambio climático y la búsqueda de soluciones sostenibles.

Cristina Valdivia Biedma

# data[].attributes.attachment_link.readable_text
El uso de la inteligencia artificial (IA) puede contribuir a la lucha contra el cambio climático.

Los sistemas de IA existentes incluyen herramientas que predicen el tiempo, rastrean icebergs e identifican la contaminación.

Según el Foro Económico Mundial, la IA también puede utilizarse para mejorar la agricultura y reducir su impacto ambiental.

La lucha contra el cambio climático, uno de los retos más difíciles del mundo, es otro ámbito en el que la IA tiene un potencial transformador.

Se espera que esto provoque unas 250 000 muertes adicionales entre 2030 y 2050 sólo por desnutrición, malaria, diarrea y estrés térmico.

He aquí nueve formas en las que la IA ya está ayudando a hacer frente al cambio climático.

1. Los icebergs se derriten: la IA sabe dónde y a qué velocidad

La IA ha sido entrenada para medir los cambios en los icebergs 10 000 veces más rápido de lo que podría hacerlo un ser humano.

Para los humanos, esta tarea es larga y laboriosa, y es difícil identificar los icebergs entre el blanco de las nubes y el hielo marino.

2. Mapeando la deforestación con IA

La IA, las imágenes por satélite y los conocimientos ecológicos también se están utilizando para mapear el impacto de la deforestación en la crisis climática.

Space Intelligence, empresa con sede en Edimburgo (Escocia), afirma estar trabajando en más de 30 países y haber mapeado más de un millón de hectáreas de terreno desde el espacio utilizando datos de satélite.

La tecnología de la empresa mide a distancia parámetros como los índices de deforestación y la cantidad de carbono almacenada en un bosque.

3. Ayudando a las comunidades vulnerables a los riesgos climáticos en África

El proyecto IKI utiliza tecnología de IA para ayudar a predecir los patrones meteorológicos, de modo que las comunidades y las autoridades puedan planificar mejor cómo adaptarse al cambio climático y mitigar su impacto.

Esto incluye mejorar el acceso a energías limpias, implantar sistemas adecuados de gestión de residuos y fomentar la reforestación.

4. Utilizando la IA para reciclar más residuos

Otro sistema de IA ayuda a combatir el cambio climático haciendo más eficiente la gestión de residuos.

Greyparrot, una startup de software con sede en Londres (Reino Unido), ha desarrollado un sistema de IA que analiza las instalaciones de tratamiento y reciclaje de residuos para ayudarles a recuperar y reciclar más material de desecho.

La IA está ayudando a luchar contra el cambio climático en sistemas como los que identifican la contaminación por plásticos en el océano. Image: The Ocean Cleanup

5. La IA está limpiando el océano

En los Países Bajos, una organización ambiental llamada The Ocean Cleanup está utilizando la IA y otras tecnologías para ayudar a eliminar la contaminación por plásticos del océano.

6. La IA ayuda a predecir catástrofes climáticas

En São Paulo (Brasil), una empresa llamada Sipremo utiliza la IA para predecir dónde y cuándo ocurrirán los desastres climáticos, y qué tipo de desastres climáticos serán.

El objetivo es ayudar a las empresas y los gobiernos a prepararse mejor para el cambio climático y los crecientes retos que conlleva para las comunidades.

La empresa trabaja en sectores como los seguros, la energía, la logística y el deporte, en los que su análisis de las condiciones de la catástrofe y de factores como la calidad del aire puede servir de base para tomar decisiones sobre el retraso o la suspensión de eventos.

7. Una lista de deseos de herramientas climáticas de IA

Esto incluye la elaboración de una lista completa de conjuntos de datos que permitirían avanzar en soluciones globales de IA para el cambio climático. Google DeepMind está trabajando en ello con Climate Change AI, una organización sin ánimo de lucro creada por voluntarios del mundo académico y de la industria que ven un papel clave para el aprendizaje automático en la lucha contra el cambio climático.

Otras herramientas de Google AI se centran en mejorar las previsiones meteorológicas y aumentar el valor de la energía eólica prediciendo mejor la producción de un parque eólico.

8. Cómo la IA puede ayudar a la industria a descarbonizar

La IA se está utilizando para ayudar a las empresas de los sectores metalúrgico y minero, del petróleo y del gas a descarbonizar sus operaciones.

Eugenie.ai, con sede en California (Estados Unidos), ha desarrollado una plataforma de seguimiento de emisiones que combina imágenes de satélite con datos de máquinas y procesos.

9. Reforestación de colinas en Brasil por drones

La iniciativa, que se puso en marcha en enero de 2024, es una alianza entre el ayuntamiento de Río y la start-up Morfo que pretende cultivar semillas en zonas de difícil acceso.

Un solo dron puede dispersar 180 cápsulas de semillas por minuto, lo que es 100 veces más rápido que utilizar manos humanas para la reforestación tradicional, según el gobierno local.

El potencial de la IA en el futuro

El informe analiza específicamente la IA generativa, un tipo de IA que crea contenidos que incluyen texto, imágenes y programación informática.

En el futuro, la IA generativa podría utilizarse en contextos como el diseño de fármacos, la arquitectura y la ingeniería, afirma el Foro.

La IA también puede utilizarse para mejorar la agricultura y reducir su impacto ambiental procesando los datos de sensores colocados en los cultivos.

Las tecnologías enumeradas en el informe, incluido el combustible de aviación sostenible, pueden utilizarse para ayudar a afrontar retos mundiales como la crisis climática, pero se necesita más innovación, señalan los autores.

# data[].attributes.attachment_link.title
9 formas en que la IA ayuda a combatir el cambio climático

# data[].attributes.attachment_link.description
Herramientas de IA que predicen el tiempo, rastrean icebergs, reciclan más residuos y encuentran plástico en el océano están ayudando a combatir el cambio climático. He aquí 9 ejemplos.

# data[].attributes.headline
Inteligencia artificial: ¿cuál es su impacto medioambiental?

# data[].attributes.subject
Inteligencia artificial: ¿cuál es su impacto medioambiental?

# data[].attributes.body
Hola, compañeros y compañeras.

Os dejo un enlace a un artículo en el que se analiza el impacto de la IA en el medio ambiente. No somos del todo conscientes de que el funcionamiento de la IA ha incrementado la demanda de energía a nivel planetario y eso plantea retos desde diferentes perspectivas. Po run lado se formula un planteamiento ético (¿merece la pena?) como uno económico (tiene que ser rentable).

El artículo explora los siguientes aspectos:

Fase de producción

Fase de operaciones

Energía

Agua

Etapa de fin de vida útil

¿Cómo puede reducirse el daño medioambiental de la inteligencia artificial?

¿Existe algún impacto medioambiental positivo de la IA?

Desiderio López Hervás.

# data[].attributes.body
En este artículo, desde la UNESCO se proponen diferentes ejemplos de dilemas éticos al utilizar la Inteligencia Artificial.

Entre los dilemas citados encontramos:

los prejuicios de género en la IA y en los motores de búsqueda, queriendo crear el primer instrumento normativo en la materia;

el uso de la IA en cuestiones jurídicas;

la creación de arte con la Inteligencia artificial

el coche autónomo dirigido por inteligencia artificial.

Son cuestiones delicadas cuyas consecuencias negativas pueden ser fatales, como el atropello de una madre y su bebé por un coche autónomo. Por ello, desde UNESCO proponen recomendaciones en artículos anclados en el artículo principal. Muy interesante.

M.ª Eugenia Martín Cuenca

# data[].attributes.attachment_link.title
L’intelligence artificielle : exemples de dilemmes éthiques

# data[].attributes.attachment_link.description
L’utilisation de l’IA dans le domaine de la culture soulève des réflexions éthiques intéressantes.

# data[].attributes.body
Este interesante artículo hace un recorrido por todos los temas relacionados con la inteligencia artificial, empezando por una clara definición y enumerando las aplicaciones más usadas en el marco nuestro del aprendizaje de una lengua extranjera.

También se mencionan algunos efectos negativos al usar demasiado estos recursos digitales en las aulas , tales como la desinformación, el plagio y las "copias" (cheating) en los exámenes.

En un informe titulado Artificial Intelligence and the Future of Teaching and Learning: Insights and Recommendations, el departamento de Educación de Estados Unidos muestra su preocupación y ansiedad sobre los "futuros riesgos potenciales" de la AI en materia de educación y cómo su uso excesivo en los estudiantes puede traer consecuencias muy negativas.

Eva María Sánchez González

# data[].attributes.attachment_link.readable_text
In Neal Stephenson's 1995 science fiction novel, The Diamond Age, readers meet Nell, a young girl who comes into possession of a highly advanced book, The Young Lady's Illustrated Primer. The book is not the usual static collection of texts and images but a deeply immersive tool that can converse with the reader, answer questions, and personalize its content, all in service of educating and motivating a young girl to be a strong, independent individual.

Such a device, even after the introduction of the Internet and tablet computers, has remained in the realm of science fiction-until now. Artificial intelligence, or AI, took a giant leap forward with the introduction in November 2022 of ChatGPT, an AI technology capable of producing remarkably creative responses and sophisticated analysis through human-like dialogue. It has triggered a wave of innovation, some of which suggests we might be on the brink of an era of interactive, super-intelligent tools not unlike the book Stephenson dreamed up for Nell.

Sundar Pichai, Google's CEO, calls artificial intelligence " more profound than fire or electricity or anything we have done in the past." Reid Hoffman, the founder of LinkedIn and current partner at Greylock Partners, says, "The power to make positive change in the world is about to get the biggest boost it's ever had." And Bill Gates has said that "this new wave of AI is as fundamental as the creation of the microprocessor, the personal computer, the Internet, and the mobile phone."

Over the last year, developers have released a dizzying array of AI tools that can generate text, images, music, and video with no need for complicated coding but simply in response to instructions given in natural language. These technologies are rapidly improving, and developers are introducing capabilities that would have been considered science fiction just a few years ago. AI is also raising pressing ethical questions around bias, appropriate use, and plagiarism.

In the realm of education, this technology will influence how students learn, how teachers work, and ultimately how we structure our education system. Some educators and leaders look forward to these changes with great enthusiasm. Sal Kahn, founder of Khan Academy, went so far as to say in a TED talk that AI has the potential to effect "probably the biggest positive transformation that education has ever seen." But others warn that AI will enable the spread of misinformation, facilitate cheating in school and college, kill whatever vestiges of individual privacy remain, and cause massive job loss. The challenge is to harness the positive potential while avoiding or mitigating the harm.
What Is Generative AI?
Artificial intelligence is a branch of computer science that focuses on creating software capable of mimicking behaviors and processes we would consider "intelligent" if exhibited by humans, including reasoning, learning, problem-solving, and exercising creativity. AI systems can be applied to an extensive range of tasks, including language translation, image recognition, navigating autonomous vehicles, detecting and treating cancer, and, in the case of generative AI, producing content and knowledge rather than simply searching for and retrieving it.

" Foundation models " in generative AI are systems trained on a large dataset to learn a broad base of knowledge that can then be adapted to a range of different, more specific purposes. This learning method is self-supervised, meaning the model learns by finding patterns and relationships in the data it is trained on.

Large Language Models (LLMs) are foundation models that have been trained on a vast amount of text data. For example, the training data for OpenAI's GPT model consisted of web content, books, Wikipedia articles, news articles, social media posts, code snippets, and more. OpenAI's GPT-3 models underwent training on a staggering 300 billion "tokens" or word pieces, using more than 175 billion parameters to shape the model's behavior-nearly 100 times more data than the company's GPT-2 model had.

By doing this analysis across billions of sentences, LLM models develop a statistical understanding of language: how words and phrases are usually combined, what topics are typically discussed together, and what tone or style is appropriate in different contexts. That allows it to generate human-like text and perform a wide range of tasks, such as writing articles, answering questions, or analyzing unstructured data.

LLMs include OpenAI's GPT-4, Google's PaLM, and Meta's LLaMA. These LLMs serve as "foundations" for AI applications. ChatGPT is built on GPT-3.5 and GPT-4, while Bard uses Google's Pathways Language Model 2 (PaLM 2) as its foundation.

Some of the best-known applications are:

ChatGPT 3.5. The free version of ChatGPT released by OpenAI in November 2022. It was trained on data only up to 2021, and while it is very fast, it is prone to inaccuracies.

ChatGPT 4.0. The newest version of ChatGPT, which is more powerful and accurate than ChatGPT 3.5 but also slower, and it requires a paid account. It also has extended capabilities through plug-ins that give it the ability to interface with content from websites, perform more sophisticated mathematical functions, and access other services. A new Code Interpreter feature gives ChatGPT the ability to analyze data, create charts, solve math problems, edit files, and even develop hypotheses to explain data trends.

Microsoft Bing Chat. An iteration of Microsoft's Bing search engine that is enhanced with OpenAI's ChatGPT technology. It can browse websites and offers source citations with its results.

Google Bard. Google's AI generates text, translates languages, writes different kinds of creative content, and writes and debugs code in more than 20 different programming languages. The tone and style of Bard's replies can be finetuned to be simple, long, short, professional, or casual. Bard also leverages Google Lens to analyze images uploaded with prompts.

Anthropic Claude 2. A chatbot that can generate text, summarize content, and perform other tasks, Claude 2 can analyze texts of roughly 75,000 words-about the length of The Great Gatsby -and generate responses of more than 3,000 words. The model was built using a set of principles that serve as a sort of "constitution" for AI systems, with the aim of making them more helpful, honest, and harmless.

These AI systems have been improving at a remarkable pace, including in how well they perform on assessments of human knowledge. OpenAI's GPT-3.5, which was released in March 2022, only managed to score in the 10th percentile on the bar exam, but GPT-4.0, introduced a year later, made a significant leap, scoring in the 90th percentile. What makes these feats especially impressive is that OpenAI did not specifically train the system to take these exams; the AI was able to come up with the correct answers on its own. Similarly, Google's medical AI model substantially improved its performance on a U.S. Medical Licensing Examination practice test, with its accuracy rate jumping to 85 percent in March 2021 from 33 percent in December 2020.

These two examples prompt one to ask: if AI continues to improve so rapidly, what will these systems be able to achieve in the next few years? What's more, new studies challenge the assumption that AI-generated responses are stale or sterile. In the case of Google's AI model, physicians preferred the AI's long-form answers to those written by their fellow doctors, and nonmedical study participants rated the AI answers as more helpful. Another study found that participants preferred a medical chatbot's responses over those of a physician and rated them significantly higher, not just for quality but also for empathy. What will happen when "empathetic" AI is used in education?

Other studies have looked at the reasoning capabilities of these models. Microsoft researchers suggest that newer systems "exhibit more general intelligence than previous AI models" and are coming "strikingly close to human-level performance." While some observers question those conclusions, the AI systems display an increasing ability to generate coherent and contextually appropriate responses, make connections between different pieces of information, and engage in reasoning processes such as inference, deduction, and analogy.

Despite their prodigious capabilities, these systems are not without flaws. At times, they churn out information that might sound convincing but is irrelevant, illogical, or entirely false-an anomaly known as "hallucination." The execution of certain mathematical operations presents another area of difficulty for AI. And while these systems can generate well-crafted and realistic text, understanding why the model made specific decisions or predictions can be challenging.
The Importance of Well-Designed Prompts
Using generative AI systems such as ChatGPT, Bard, and Claude 2 is relatively simple. One has only to type in a request or a task (called a prompt), and the AI generates a response. Properly constructed prompts are essential for getting useful results from generative AI tools. You can ask generative AI to analyze text, find patterns in data, compare opposing arguments, and summarize an article in different ways (see sidebar for examples of AI prompts).

One challenge is that, after using search engines for years, people have been preconditioned to phrase questions in a certain way. A search engine is something like a helpful librarian who takes a specific question and points you to the most relevant sources for possible answers. The search engine (or librarian) doesn't create anything new but efficiently retrieves what's already there.

Generative AI is more akin to a competent intern. You give a generative AI tool instructions through prompts, as you would to an intern, asking it to complete a task and produce a product. The AI interprets your instructions, thinks about the best way to carry them out, and produces something original or performs a task to fulfill your directive. The results aren't pre-made or stored somewhere-they're produced on the fly, based on the information the intern (generative AI) has been trained on. The output often depends on the precision and clarity of the instructions (prompts) you provide. A vague or poorly defined prompt might lead the AI to produce less relevant results. The more context and direction you give it, the better the result will be. What's more, the capabilities of these AI systems are being enhanced through the introduction of versatile plug-ins that equip them to browse websites, analyze data files, or access other services. Think of this as giving your intern access to a group of experts to help accomplish your tasks.

One strategy in using a generative AI tool is first to tell it what kind of expert or persona you want it to "be." Ask it to be an expert management consultant, a skilled teacher, a writing tutor, or a copy editor, and then give it a task.

Prompts can also be constructed to get these AI systems to perform complex and multi-step operations. For example, let's say a teacher wants to create an adaptive tutoring program-for any subject, any grade, in any language-that customizes the examples for students based on their interests. She wants each lesson to culminate in a short-response or multiple-choice quiz. If the student answers the questions correctly, the AI tutor should move on to the next lesson. If the student responds incorrectly, the AI should explain the concept again, but using simpler language.

Previously, designing this kind of interactive system would have required a relatively sophisticated and expensive software program. With ChatGPT, however, just giving those instructions in a prompt delivers a serviceable tutoring system. It isn't perfect, but remember that it was built virtually for free, with just a few lines of English language as a command. And nothing in the education market today has the capability to generate almost limitless examples to connect the lesson concept to students' interests.

Chained prompts can also help focus AI systems. For example, an educator can prompt a generative AI system first to read a practice guide from the What Works Clearinghouse and summarize its recommendations. Then, in a follow-up prompt, the teacher can ask the AI to develop a set of classroom activities based on what it just read. By curating the source material and using the right prompts, the educator can anchor the generated responses in evidence and high-quality research.

However, much like fledgling interns learning the ropes in a new environment, AI does commit occasional errors. Such fallibility, while inevitable, underlines the critical importance of maintaining rigorous oversight of AI's output. Monitoring not only acts as a crucial checkpoint for accuracy but also becomes a vital source of real-time feedback for the system. It's through this iterative refinement process that an AI system, over time, can significantly minimize its error rate and increase its efficacy.
Uses of AI in Education
In May 2023, the U.S. Department of Education released a report titled Artificial Intelligence and the Future of Teaching and Learning: Insights and Recommendations. The department had conducted listening sessions in 2022 with more than 700 people, including educators and parents, to gauge their views on AI. The report noted that "constituents believe that action is required now in order to get ahead of the expected increase of AI in education technology-and they want to roll up their sleeves and start working together." People expressed anxiety about "future potential risks" with AI but also felt that " AI may enable achieving educational priorities in better ways, at scale, and with lower costs."

AI could serve-or is already serving-in several teaching-and-learning roles:

Instructional assistants. AI's ability to conduct human-like conversations opens up possibilities for adaptive tutoring or instructional assistants that can help explain difficult concepts to students. AI-based feedback systems can offer constructive critiques on student writing, which can help students fine-tune their writing skills. Some research also suggests certain kinds of prompts can help children generate more fruitful questions about learning. AI models might also support customized learning for students with disabilities and provide translation for English language learners.

Teaching assistants. AI might tackle some of the administrative tasks that keep teachers from investing more time with their peers or students. Early uses include automated routine tasks such as drafting lesson plans, creating differentiated materials, designing worksheets, developing quizzes, and exploring ways of explaining complicated academic materials. AI can also provide educators with recommendations to meet student needs and help teachers reflect, plan, and improve their practice.

Parent assistants. Parents can use AI to generate letters requesting individualized education plan (IEP) services or to ask that a child be evaluated for gifted and talented programs. For parents choosing a school for their child, AI could serve as an administrative assistant, mapping out school options within driving distance of home, generating application timelines, compiling contact information, and the like. Generative AI can even create bedtime stories with evolving plots tailored to a child's interests.

Administrator assistants. Using generative AI, school administrators can draft various communications, including materials for parents, newsletters, and other community-engagement documents. AI systems can also help with the difficult tasks of organizing class or bus schedules, and they can analyze complex data to identify patterns or needs. ChatGPT can perform sophisticated sentiment analysis that could be useful for measuring school-climate and other survey data.

Though the potential is great, most teachers have yet to use these tools. A Morning Consult and EdChoice poll found that while 60 percent say they've heard about ChatGPT, only 14 percent have used it in their free time, and just 13 percent have used it at school. It's likely that most teachers and students will engage with generative AI not through the platforms themselves but rather through AI capabilities embedded in software. Instructional providers such as Khan Academy, Varsity Tutors, and DuoLingo are experimenting with GPT-4-powered tutors that are trained on datasets specific to these organizations to provide individualized learning support that has additional guardrails to help protect students and enhance the experience for teachers.

Google's Project Tailwind is experimenting with an AI notebook that can analyze student notes and then develop study questions or provide tutoring support through a chat interface. These features could soon be available on Google Classroom, potentially reaching over half of all U.S. classrooms. Brisk Teaching is one of the first companies to build a portfolio of AI services designed specifically for teachers-differentiating content, drafting lesson plans, providing student feedback, and serving as an AI assistant to streamline workflow among different apps and tools.

Providers of curriculum and instruction materials might also include AI assistants for instant help and tutoring tailored to the companies' products. One example is the edX Xpert, a ChatGPT-based learning assistant on the edX platform. It offers immediate, customized academic and customer support for online learners worldwide.

Regardless of the ways AI is used in classrooms, the fundamental task of policymakers and education leaders is to ensure that the technology is serving sound instructional practice. As Vicki Phillips, CEO of the National Center on Education and the Economy, wrote, "We should not only think about how technology can assist teachers and learners in improving what they're doing now, but what it means for ensuring that new ways of teaching and learning flourish alongside the applications of AI."

# data[].attributes.attachment_link.description
The leap into a new era of machine intelligence carries risks and challenges, but also plenty of promise

# data[].attributes.headline
Ética e inteligencia artificial et la robótica: un debate abierto

# data[].attributes.subject
Ética e inteligencia artificial et la robótica: un debate abierto

# data[].attributes.body
El debate sobre la ética en la inteligencia artificial y la robótica crece en importancia ante las implicaciones económicas y sociales. Mientras el Parlamento Europeo propone principios éticos, surge la necesidad de regular avances tecnológicos futuros. Los valores compartidos incluyen la protección de la dignidad humana y la privacidad. A pesar de diferencias culturales, ambos enfoques convergen en la necesidad de un control humano y la gestión del riesgo en el desarrollo de la IA.

Laura Pérez Muñoz

# data[].attributes.attachment_link.readable_text
El debate sobre la inteligencia artificial y la robótica está adquiriendo cada vez mayor relevancia social una vez que se comienza a atisbar las posibles consecuencias para la economía, el empleo y la sociedad en su totalidad. Junto con este tipo de consideraciones, diversas instituciones -gobiernos, universidades, la industria- se están comenzando a plantear también los dilemas éticos que serán la base de la legislación futura.

Claves

El Parlamento Europeo, por un lado, y un grupo de experto reunidos en Asilomar (California), por otro, han desarrollado de manera paralela una serie de principios y valores éticos sobre la robótica y la inteligencia artificial (en adelante IA).

Esta preocupación por la ética se basa en la creciente conciencia de la necesidad de regular, en un futuro próximo, los avances en este campo.

Se diferencia entre la ética de la robótica -que es la ética de los investigadores, diseñadores y usuarios- y la ética de las máquinas: los robots no tienen valores ni consciencia más allá de lo que se les programa y consienta.

Algunos valores compartidos: respeto por la dignidad humana, libertad, seguridad, privacidad, búsqueda del bien común, inclusión, no uso militar...serán la base de las leyes y regulaciones futuras.

También se reconoce la incertidumbre: es imposible saber con certeza cuáles serán los avances de la IA en una o dos décadas. Por eso, habrá que repensar los dilemas éticos y las regulaciones a medio plazo.

De las consecuencias de la Inteligencia Artificial a los principios: la roboética

Los avances en Inteligencia Artificial están empezando a mostrar algunos atisbos de cómo será un futuro no muy lejano -coches autónomos o drones, el triunfo de la IA contra humanos en ajedrez, póker o Go- y sus más que previsibles consecuencias con respecto al empleo por la automatización. Los grandes cambios futuros y su profundo impacto social levantan por igual expectativas de un mundo distinto y mejor, pero también temores fundados sobre un dominio de las máquinas en un mundo sin empleo.

Ante esto, distintos actores se están posicionando. En primer lugar, los gobiernos. La Casa Blanca hizo públicos dos informes sobre la Inteligencia Artificial el pasado octubre de 2016 y sobre su efecto en la economía americana en diciembre de 2016. También las universidades y la academia lo están poniendo en el centro de sus discusiones. La Universidad de Stanford publicó en septiembre de 2016 su informe sobre " Inteligencia Artificial y la vida en 2030". Y muchos otros actores, de la industria o no, están posicionándose sobre algunos de los temas principales.

En este sentido, tanto el Parlamento Europeo, por un lado, como algunos de los principales exponentes de la inteligencia artificial mundial, por el otro, se han puesto a reflexionar sobre los componentes éticos de la inteligencia artificial. ¿En qué se basan?

Una aproximación institucional: El código ético de conducta europeo

Inmersos en el debate sobre la Inteligencia Artivicial, el Parlamento Europeo (PE), tras una propuesta de borrador (junio 2016) y un informe razonado (febrero 2017) ha aprobado un informe sobre Robótica en el que se establece un Código Ético de Conducta.

La propuesta de resolución del PE establece que es necesario establecer "un marco de guía ético para el diseño, producción y uso de los robots" que sirva de complemento a las diferentes recomendaciones puramente legales que se realizan. Es decir, profundizar en una nueva disciplina que aborde los problemas éticos de la Inteligencia Artificial, la " roboética". La idea de fondo es que los estándares éticos deberían ir dirigidos a la humanidad -esto es, los diseñadores, productores y usuarios de los robots- y no tanto a los robots en sí mismos. Como indica la profesora Nathalie Nevejans, responsable del informe encargado por el propio PE, no hay que confundir la ética en la robótica con la ética en las máquinas, es decir, una ética que obligue a los propios robots a adherirse a reglas éticas. Existen varios principios fundamentales que han sido recogidos por la resolución que incluyen la protección de la dignidad humana, la privacidad, la libertad, la igualdad de acceso o los efectos sociales, entre otros.

Ética e Inteligencia Artificial: los principios sancionados por el Parlamento Europeo

1. Proteger a los humanos del daño causado por robots: la dignidad humana.

2. Respetar el rechazo a ser cuidado por un robot.

3. Proteger la libertad humana frente a los robots.

4. Proteger la privacidad y el uso de datos: especialmente cuando avancen los coches autónomos, los drones, los asistentes personales o los robots de seguridad.

5. Protección de la humanidad ante el riesgo de manipulación por parte de los robots: Especialmente en ciertos colectivos -ancianos, niños, dependientes- que puedan generar una empatía artificial.

6. Evitar la disolución de los lazos sociales haciendo que los robots monopolicen, en un cierto sentido, las relaciones de determinados grupos.

7. Igualdad de acceso al progreso en robótica: Al igual que la brecha digital, la brecha robótica puede ser esencial.

8. Restricción del acceso a tecnologías de mejora regulando la idea del transhumanismo y la búsqueda de mejoras físicas y/o mentales.

La visión de los expertos: los 23 principios de la IA de Asilomar

Como indica Cade Metz en Wired, en febrero de 1975 un grupo de genetistas se reunió en un pequeño pueblo de California, Asilomar, para decidir si su trabajo podría destruir el mundo. Estábamos al inicio de la ingeniería genética y la manipulación del ADN, y de esa reunión surgieron una serie de principios y un estricto marco ético para la biotecnología. Cuatro décadas después -organizado por el Future of Life Institute- otro grupo de científicos se reunió en el mismo lugar y con el mismo problema. Pero esta vez se trataba de analizar las posibles consecuencias de la Inteligencia Artificial. La idea de fondo fue clara y compartida: un profundo cambio está llegando y afectará a toda la sociedad y las personas que tengan algún tipo de responsabilidad en esta transición tienen tanto una gran responsabilidad como la oportunidad de darle la mejor forma posible.

Tras una profunda deliberación de meses, se aprobaron una serie de principios que fueron apoyados por al menos el 90 % de los asistentes. Estos 23 principios aprobados no son exhaustivos, pero muestran la necesidad de que ciertos principios fundamentales se respeten y que, a través del desarrollo de este debate, la Inteligencia Artificial se utilice para mejorar la vida de todos. De este modo, se plantean una serie de principios agrupados en tres consideraciones generales: a) Principios relativos a la investigación; b) Ética y valores; y c) Temas a largo plazo.

Roboética: ¿Una perspectiva común?

El modo de reflexionar y plantear los marcos éticos -y posteriormente legales- ofrece un ejemplo claro de la distinta forma que tienen los americanos y europeos de enfrentarse a los problemas: desde un punto de vista más institucional, con comités, subcomités, informes, propuestas y marcos legales (más o menos obligatorios), frente a una discusión más flexible, abierta y voluntaria que caracteriza al modo de hacer anglosajón. Aun así, podemos observar una serie de parámetros e ideas comunes, que pueden servir de base compartida para intentar conceptualizar y regular, en su momento, las prácticas y consecuencias de la IA.

Podemos observar que existen una serie de consideraciones comunes en los dos modos de realizar esta aproximación a la ética de la IA.

La IA debe realizarse por el bien de la humanidad y beneficiar al mayor número. Es necesario reducir el riesgo de exclusión.

Los estándares con respecto a la IA deben ser altísimos en lo que respecta a la seguridad de los humanos: Para ello, es necesario un control ético y finalista de investigación, transparencia y cooperación en el desarrollo de la Inteligencia Artificial.

Los investigadores y diseñadores tienen una responsabilidad crucial: toda la investigación y desarrollo de la IA debe estar caracterizada por la transparencia, la reversibilidad y trazabilidad de los procesos.

Necesidad de control humano: Que en todo momento sean los humanos los que decidan qué pueden hacer o no los sistemas robóticos o basados en IA.

Gestionar el riesgo: Cuanto más grave sea el riesgo potencial, más estrictos deberán ser los sistemas de control y gestión del riesgo.

No desarrollo de la IA para realizar armas de destrucción.

Incertidumbre: Se reconoce que los avances en estos campos son inciertos, en ámbitos y alcances que en ciertos casos son inimaginables. Por ello, las regulaciones y marcos deben repensarse en el medio plazo cuando otros avances se hayan hecho realidad.

¿Existen diferencias? Como en muchos casos, más que diferencias explícitas suelen ser implícitas. En primer lugar, la cultura legislativa europea y americana es distinta. Esto puede tener efectos en el futuro. El proceso por el cual se han identificado los distintos principios -más 'burocrático' en el caso europeo, en una conferencia entre expertos y emprendedores en el caso americano- ejemplifica el distinto modo de abordarlo. Consecuentemente, la Carta sobre Robótica europea es, en un cierto sentido, más exhaustiva, e intenta comenzar a regular también a los usuarios finales, y no sólo a los diseñadores.

Por último, y esto es una diferencia fundamental, parece que existen dos visiones distintas: el transhumanismo, esto es, la mejora de las capacidades humanas -físicas y/o intelectuales- a través de la tecnología y que trascienden los límites humanos. Desde la óptica europea, el transhumanismo debería ser regulado ya que potencialmente puede ir en contra de mucho de los principios básicos de la Inteligencia Artificial como la igualdad de acceso y la dignidad humana, entre otros. En cambio, en los principios de Asilomar no se limita explícitamente.

Para la reflexión

La robótica y la IA afectarán en profundidad a nuestras relaciones económicas, sociales o políticas. Todos los sectores y grupos sociales se verán afectados: ¿qué principios deberán regir a los robots? ¿Cómo afecta de manera distinta a diversos grupos sociales? ¿Y en distintas regiones del mundo? ¿Cómo será la IA en un futuro próximo?

Muchas preguntas y muchas incertidumbres, pero una realidad: la inteligencia artificial se va a desarrollar y debemos comenzar a pensar y gestionar su cambio.

# data[].attributes.attachment_link.title
Ética e inteligencia artificial: un debate abierto

# data[].attributes.attachment_link.description
La inteligencia artificial y la robótica están teniendo cada vez más relevancia con el paso del tiempo, ya que suponen un cambio en el panorama económico el empleo y en la sociedad. Se plantea el debate en los gobiernos para poner solución al dilema de la ética e inteligencia artificial

# data[].attributes.headline
Vender el iris a cambio de criptomonedas: la moda que ha llegado a Barcelona y pone en peligro los datos personales

# data[].attributes.subject
Vender el iris a cambio de criptomonedas: la moda que ha llegado a Barcelona y pone en peligro los datos personales

# data[].attributes.body
La empresa Worldcoin ofrece criptomonedas a cambio de tus datos biométricos. El reclamo es dinero fácil y aparentemente gratis. Sin embargo, esta transacción podría tener consecuencias no tan agradables si uno se para a pensarlo, ya que estos datos podrían llegar a utilizarse para actividades fraudulentas como por ejemplo, una suplantación de identidad, o dar lugar a situaciones de ciberacoso, ciberdelincuencia, o incluso ceder tus datos a terceros. La huella biométrica es una característica física única que da lugar a una identificación sin margen de duda. La pregunta es qué uso le dará la IA a nuestra huella biométrica.

José Mª Santoro Moreno

# data[].attributes.attachment_link.readable_text
Cientos de personas, algunos menores de edad, se agrupan estos días en centros comerciales de Barcelona como Glòries o la Maquinista para que una esfera plateada llamada Orb les escanee el iris a cambio de criptomonedas.

El intercambio se realiza en pocas horas. Los usuarios se registran en una aplicación donde obtienen un QR y tras visitar alguno de los cuatro puestos situados en la capital catalana reciben 10 criptomonedas (también llamados token). El valor de esta transacción varía cada día, pero suele rondar entre los 30 y 60 euros.

" Solo tienes que dar tu cara, el código QR aparece directamente en tu aplicación. No tuve que dar ningún dato, ni siquiera mi número de teléfono", explica Abdel, uno de los miles de jóvenes que ya se han acercado para que le escaneen su iris. Junto a él, Sofian relata que vino "hace unas cuantas semanas porque me dijeron que te daban dinero gratis y gané unos 60 euros".

La empresa detrás de esta nueva moda es Worldcoin, un 'wallet' virtual creado por Sam Altman, director ejecutvio de OpenAI ( ChatGPT). La compañía anuncia el negocio del World ID como "el pasaporte de máxima privacidad para la humanidad en la era de la Inteligencia Artificial ".

Según explican, este pasaporte digital que se obtiene una vez los usuarios han escaneado sus datos biométricos es una prueba para que "demuestres que eres único y humano en internet". En otras palabras, para que en un contexto donde la IA está muy avanzada demuestres si eres un ser humano o un robot.

Peligros a la hora de compartir datos biométricos

Sin embargo, la Autoridad Catalana de Protección de Datos (APDCat) ha alertado a los usuarios que "vender" los datos biométricos es peligroso, puesto que permite la identificación inequívoca de la persona a través de una característica física que no varia nunca.

Esto, según informan, eleva el riesgo del uso que terceros puedan hacer de estos datos y puede atentar contra las libertades de las personas, además de permitir que una empresa, en este caso Worldcoin, pueda compartir y ceder los datos sin control.

Entre los peligros que señala el ente destacan la s uplantación de identidad, la ciberdelincuencia, el ciberacoso o el condicionamiento que estos datos pueden tener en el presente o futuro próximo a nivel profesional. Asimismo, insisten en la necesidad de entender el valor de los datos personales y los riesgos asociados tras compartirlos.

Ante estas advertencias, personas como Adrià Garcia, un hombre de 60 años que ha acudido este miércoles a Glòries, responden que "claro que no me da igual ceder mis datos, pero en nuestro día a día nos registramos a tantas páginas web y ponemos tantas veces nuestras huellas dactilares que dar el iris tampoco me parece tan grave".

# data[].attributes.attachment_link.title
Vender el iris a cambio de criptomonedas: la moda que ha llegado a Barcelona y pone en peligro los datos personales

# data[].attributes.attachment_link.description
La empresa detrás de este negocio es Worldcoin, creado por Sam Altman, director ejecutivo de OpenAI.

# data[].attributes.body
Este texto de las noticias alemanas habla sobre el tema del uso de IA en el aula.

Por un lado habla de los desafíos:

profesorado agobiado

profesorado formado insuficiente en IA

peligros del uso en clase, protección de datos sobe todos

la necesaria modificación de las curriculas

Por otro lado hay cosas que se están haciendo. En algunas comuniudades el ministerio de educación trabajo con empresas para ofrecerle el uso de p.e. Chatgtp para la preparación de clases. La empresa les ayuda a la hora de darle la información necesaria y les enseña hacer los "prompts" de la mejor manera.

Al mismo tiempo les recuerda de siempre comprobar la confidelidad de los datos generados.

La politica ve las oportunidades para la enseñanza y apoya a empresas "Start-ups". Aparte de eso quiere apoyar al profesorado para formarse en el tema. Además insisten que las herramientas en todo caso tienen que ser libre de discriminación y que deben ser inclusivos.

Christoph Bröckling

# data[].attributes.attachment_link.readable_text
Wie können KI und Chat GPT in Schulen sinnvoll eingesetzt werden? Das ist aktuell ein großes Thema. Die einen betonen die Chancen, die anderen machen auf die Risiken aufmerksam.

Kathrin Röschel kann nicht mehr an sich halten. Das Forum "Wie gelingt der Einsatz von KI in der Bildung" geht schon auf die Zielgerade, da bringt die Schulleiterin der Berlin Cosmopolitan School ihr Plädoyer: "Lassen Sie uns bitte, bitte, bitte nicht die Lehrerinnen und Lehrer vergessen. Wir müssen unsere Prüfungsformate ändern, wir müssen unsere Curriculae ändern, wir müssen die Lehrer fortbilden."

Großer Applaus für Röschel, die auch schon an einer Schule im Silicon Valley unterrichtet hat. Doch das Thema "KI in der Bildung" polarisiert. Kritiker wie Wikimedia warnen zum Beispiel vor zu eilig eingeführten Tools im Klassenzimmer und vor Datenschutzproblemen, die damit einhergehen könnten: Kann man sich wirklich auf kommerzielle Anbieter verlassen? Benötigt man diese Lösungen?

Chatbots zur Unterrichtsvorbereitung

Ein Tool, das Lehrkräfte seit vergangener Woche nutzen können, sind Chatbots, mit denen der Unterricht vorbereitet werden kann. Entwickelt hat sie das Unternehmen fobizz. Mit ihm arbeiten die Bundesländer Mecklenburg-Vorpommern und Rheinland-Pfalz schon seit Längerem zusammen.

Diana Knodel, CEO von fobizz, sieht viele gute Möglichkeiten für den Einsatz von KI im Unterricht: "Eine KI kann uns entlasten. Es gibt ganz, ganz viele Anwendungsbeispiele, die Lehrkräfte nutzen können, um mit KI zu arbeiten. Aber wir müssen Vor- und Nachteile der künstlichen Intelligenz auch mit den Schülerinnen und Schülern besprechen."

Zuschneiden auf die eigenen Bedürfnisse

So arbeitet der Chatbot von fobizz: Mit Hilfe von so genanntem Prompten, also Anweisungen an den Chatbot, kann eine Unterrichtseinheit oder sogar die kommenden Monate auf der Grundlage eines Bildungsplans vorbereitet werden. Konkrete Themen, Einstiege, Tests, Aspekte, die unbedingt behandelt werden sollten - zu all dem kann der Chatbot Vorschläge erarbeiten.

Alexander Tscheulin, Lehrer in Hamburg und Referent für Digitalität, beschäftigt sich schon seit Langem mit dem Thema "Lernen mit digitalen Medien." Er schätzt an dem fobizz-Chatbot, dass ein Zuschnitt der individuellen Bedürfnisse viel leichter möglich ist. Tscheulin warnt aber auch davor, sich allein auf den Bot zu verlassen. Es sei immer nötig, eine KI kritisch zu überprüfen.

Wie blickt die Politik auf das Thema?

Für Bundesbildungsministerin Bettina Stark-Watzinger ist KI die "Schlüsseltechnologie des 21. Jahrhunderts". Künstliche Intelligenz biete ein enormes Potential etwa in der Bildung, sagt die FDP-Politikerin. Hier gebe es Chancen für individuelle Förderung und die Unterstützung von Lehrkräften und Ausbildungspersonal.

"Lernende sowie Lehrkräfte benötigen spezifische Kompetenzen für die souveräne Nutzung von KI", so Stark-Watzinger. Das Bildungsministerium investiert in dieser Legislaturperiode insgesamt mehr als 1,6 Milliarden Euro in KI. Damit sind Fördermaßnahmen abgedeckt, in deren Rahmen Startups und Unternehmen gefördert werden können.

Kai Gehring, Vorsitzender des Bundestagsausschusses für Bildung, Forschung und Technikfolgenabschätzung, plädiert mit Blick auf den Einsatz von KI in der Schule für Qualitätsstandards, die - trotz des Bildungsföderalismus - in allen sechzehn Bundesländern gelten müssten: "Es gibt eine Fülle an Technologien und Tools, und wir müssen die Chancen und Risiken immer wieder neu abwägen."

Die neuen Tools müssten inklusiv und diskriminierungsfrei gestaltet sein, so Gehring. Alle Schülerinnen und Schüler müssten durch sie einen Mehrwert bei ihrem Lernprozess und in der Bildung erfahren.

# data[].attributes.attachment_link.title
Wie KI künftig in Schulen eingesetzt werden könnte

# data[].attributes.attachment_link.description
Wie können KI und Chat GPT in Schulen sinnvoll eingesetzt werden? Das ist aktuell ein großes Thema. Die einen betonen die Chancen, die anderen machen auf die Risiken aufmerksam. Von Kilian Pfeffer.

# data[].attributes.headline
¿Cómo actuar para que el Humano tenga el control de los algoritmos e inteligencia artificial?

# data[].attributes.subject
¿Cómo actuar para que el Humano tenga el control de los algoritmos e inteligencia artificial?

# data[].attributes.body
En Francia, la Comisión Nacional sobre  Informática y Libertades ha sido encargada de publicar un informe sobre los retos éticos del uso de los algoritmos e inteligencia artificial. Este informe ha sido el fruto de un debate público organizado durante varios meses en 2017 y en el que participaron más de 3000 personas cuyo objetivo era garantizar que la inteligencia artificial potenciara las capacidades del Hombre, que no lo sustituyera.

Según los resultados analizados, los algoritmos e inteligencia artificial plantean varias pistas de reflexión y retos:

- Autonomía humana vs autonomía de las máquinas

- Desviación, discriminación y exclusión (efectos creados por los algoritmos e IA a menudo creados de forma inconsciente y difíciles de identificar)

- Fragmentación de los algoritmos : personalización vs lógicas colectivas

- Entre limitación de megaficheros (problemática de las leyes de protección de datos) y desarrollo de la IA : encontrar el equilibrio

- Calidad, cantidad, pertinencia : reto de los datos que nutren la IA

- Identidad humana frente al desafío de la IA.

Además, el informe pone de relieve unos principios y unas recomendaciones para el entendimiento y el uso responsable de los algoritmos así como la naturaleza de la intervención humana en la toma de decisiones sobre ellos.

Dos principios fundamentales :

-  lealtad: cada algoritmo, que trate o no datos personales, tiene que ser leal hacia sus usuarios. El interés del usuario tiene que primar.

- vigilancia : organizar con regularidad una reflexión metódica sobre la cadena entera (creadores, empresas, ciudadanos) a través de procedimientos concretos (por ejemplo, comisiones éticas que aseguran un dialogo sistemático y continu entre los distintos actores).

Seis recomendaciones operacionales:

1.       Formar a todos los actores (creadores, empresas, ciudadanos) de la “cadena algorítmica”

2.      Hacer que los sístemas algorítmicos sean comprensibles (mediación con los usuarios)

3.      Trabajar en el diseño de los sístemas algorítmicos que están al servicio de la libertad humana (contrarrestar el efecto “caja negra”)

4.      Crear una plataforma nacional de auditoría de los algoritmos

5.      Desarrollar la investigación sobre la Inteligencia Artificial ética y lanzar un proyecto de gran envergadura de interés general

6.      Fomentar la función ética en las empresas (comisiones éticas, difusión de buenas prácticas por sector de actividad, revisión de normativas deontológicas)

Lo sorprendente es que este informe se publicó hace ya 7 años, que desde entonces los algoritmos y IAs se han desarrollado muchísimo pero muchas de las cuestiones planteadas siguen sin respuesta real y no se han puesto realmente en marcha las recomendaciones.

https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux-ethiques-des-algorithmes-et-de

Nathalie CHATILLON

# data[].attributes.body
Esta breve, aunque interesante, charla acerca de los dilemas respecto al uso de la IA pretende, fundamentalmente, hacernos reflexionar.

Plantea, en primer lugar, lo necesario que resulta hacer una reflexión acerca del uso que la IA hace de nuestros datos. Habla sobre el llamado "dataismo", la filosofía que plantea el importantísimo papel que la información tiene para entender la realidad, pero, a su vez, también subraya la amenaza que el Big Data supone para nuestra privacidad.

También hace mención a la gran influencia que la IA tiene incluso a nivel democrático en los distintos países, pues puede influir directamente en la intención de voto de los ciudadanos y ciudadanas.

Otro interesante dilema que plantea es el sesgo que los algoritmos realizan, y da algunos ejemplos, como el de Google images, que etiqueta a personas afroamericanas como "gorilas", o Amazon, que da menor puntuación a lo CVs de mujeres.

Hacia el final del vídeo, se hace una interesante reflexión acerca de la necesidad, o no, de prohibir el uso de la IA, y se hace una comparativa con las consecuencias de otros avances a lo largo de la historia para el ser humano, como, por ejemplo, los rayos X o la energía nuclear.

En definitiva, es un vídeo que plantea más preguntas que respuestas, pero que, sin duda, hace reflexionar.

Esperanza Mª Soriano Castro

# data[].attributes.attachment_link.title
El dilema de la inteligencia artificial  | Cecilia Celeste Danesi | TEDxComodoroRivadavia

# data[].attributes.headline
La generación espontánea y la regla de la ética

# data[].attributes.subject
La generación espontánea y la regla de la ética

# data[].attributes.body
La generación espontánea

Uno de los aspectos destacables que nos separan a los humanos de las inteligencias artificiales es la generación espontánea de acciones y de conocimiento. El impulso.

EL ser humano es un espontáneo creador del todo. Una persona puede despertar un día e imaginar una idea, una historia o un poema, un pensamiento creativo. A partir de la historia personal, el ser humano crea nuevo conocimiento, nuevas historias y nuevas experiencias.

No hay inteligencia artificial que genere conocimiento o realice acciones espontáneamente.

En un artículo publicado en la revista Nature), los científicos de la Universidad de Zaragoza Miguel Aguilera y Manuel Bedia concluyeron de que se puede llegar a una inteligencia que genere mecanismos para adaptarse a las circunstancias. Esto podría parecerse a la acción espontánea, pero dista de ser un acto producto de voluntad. Toda acción realizada por una inteligencia artificial es diseñada y programada por una persona.

Improvisar en una banda de jazz seguirá siendo privilegio humano.

La regla de la ética

Esto nos lleva a la segunda gran diferencia: la ética. La inteligencia artificial y las máquinas no tienen ética per se, hay que inculcársela. Ellas sólo siguen parámetros preestablecidos, reglas claras y precisas de lo que deben hacer.

El ser humano dispone de un reglamento (Constitución, leyes, religión, etc.) de lo que debe hacer, y también tiene claro lo que no debe hacer. Pero la ética es más que un reglamento, va más allá de una guía. La ética es, nada más y nada menos, que el discernimiento entre el bien y el mal. Es tan importante en nuestra especie que se ha encontrado que bebés de cinco meses ya hacen juicios morales y actúan acorde con ellos.

Las que sí tienen ética son las personas que programan a las máquinas y a las inteligencias artificiales. Una máquina no es buena o mala. Es efectiva. Hace lo que le ordenan y para lo que fue programada. Aunque ciertamente se puede programar ética. El físico José Ignacio Latorre lo explica en su obra Ética para Máquinas. Vaticina Latorre: «La inteligencia artificial se sentará en el Consejo de Ministros»

Hoy, ChatGPT está programado para no difundir contenido sensible y no da acceso a la web profunda (DeepWeb). Así, uno puede programar en base a unas ideas del ser y del deber ser. Sin embargo, como el tiempo pasa y los parámetros éticos se modifican, éstos deben ser corregidos para que la base normativa de la inteligencia artificial vaya en correlación a la del ser humano.

La intención solo puede ser humana

Otro aspecto importante es la intención, y la intención de la acción humana está intrínsecamente relacionada con la moralidad.

En su libro Intención, la filósofa Elizabeth Anscombe argumenta que la intención no puede reducirse a meros deseos o estados psicológicos internos. Anscombe sostiene que la intención es una característica esencial de la acción y que está intrínsecamente relacionada con la responsabilidad moral. Así que no se puede separar la intención de la acción en sí misma al determinar si un acto es moralmente correcto o incorrecto.

Mª Asunción Marín

# data[].attributes.attachment_link.readable_text
Durante cientos de años, el ser humano ha estudiado y tratado de dilucidar qué es lo que lo separa de los animales. La biología, la sociología, la antropología y hasta la filosofía se nutren de esta pregunta existencial. Incluso el derecho, donde se estableció que cierto grupos de animales y en ciertas circunstancias pueden ser considerados " persona jurídica ".

¿Tendrá, entonces, derechos la inteligencia artificial? ¿Tendrá derecho a... la vida?

A partir del hipersónico desarrollo de la inteligencia artificial, hay un nuevo elemento, quizá el quinto elemento, que no está hecho ni de tierra, ni de fuego, ni de aire, ni de agua. Es la anti-vida, la inteligencia artificial que obliga a la humanidad a confrontarse con un superpoder que ella misma ha creado.

Las inteligencias artificiales superan la prueba de Turing o test de Turing (la clásica herramienta de evaluación de la capacidad de una máquina para exhibir un comportamiento inteligente), y lo hacen sin pestañear.

En Blade Runner ya era difícil distinguir humanos de robots. La emoción ha sido casi siempre el factor humano que ha hecho caer a robots y máquinas en la trampa y delatarse -aunque las lágrimas en la lluvia del replicante Roy Batty sean las más emotivas del cine de ciencia ficción de toda la historia-.

Pero ¿qué pasará a partir de ahora? ¿Qué será humano cuando las inteligencias artificiales lo sean todo? ¿Qué prueba vamos a inventar para detectarlas?

La generación espontánea

Uno de los aspectos destacables que nos separan a los humanos de las inteligencias artificiales es la generación espontánea de acciones y de conocimiento. El impulso.

EL ser humano es un espontáneo creador del todo. Una persona puede despertar un día e imaginar una idea, una historia o un poema, un pensamiento creativo. A partir de la historia personal, el ser humano crea nuevo conocimiento, nuevas historias y nuevas experiencias.

No hay inteligencia artificial que genere conocimiento o realice acciones espontáneamente.

En un artículo publicado en la revista Nature), los científicos de la Universidad de Zaragoza Miguel Aguilera y Manuel Bedia concluyeron de que se puede llegar a una inteligencia que genere mecanismos para adaptarse a las circunstancias. Esto podría parecerse a la acción espontánea, pero dista de ser un acto producto de voluntad. Toda acción realizada por una inteligencia artificial es diseñada y programada por una persona.

Improvisar en una banda de jazz seguirá siendo privilegio humano.

La regla de la ética

Esto nos lleva a la segunda gran diferencia: la ética. La inteligencia artificial y las máquinas no tienen ética per se, hay que inculcársela. Ellas sólo siguen parámetros preestablecidos, reglas claras y precisas de lo que deben hacer.

El ser humano dispone de un reglamento (Constitución, leyes, religión, etc.) de lo que debe hacer, y también tiene claro lo que no debe hacer. Pero la ética es más que un reglamento, va más allá de una guía. La ética es, nada más y nada menos, que el discernimiento entre el bien y el mal. Es tan importante en nuestra especie que se ha encontrado que bebés de cinco meses ya hacen juicios morales y actúan acorde con ellos.

Las que sí tienen ética son las personas que programan a las máquinas y a las inteligencias artificiales. Una máquina no es buena o mala. Es efectiva. Hace lo que le ordenan y para lo que fue programada. Aunque ciertamente se puede programar ética. El físico José Ignacio Latorre lo explica en su obra Ética para Máquinas. Vaticina Latorre: "La inteligencia artificial se sentará en el Consejo de Ministros"

Hoy, ChatGPT está programado para no difundir contenido sensible y no da acceso a la web profunda (DeepWeb). Así, uno puede programar en base a unas ideas del ser y del deber ser. Sin embargo, como el tiempo pasa y los parámetros éticos se modifican, éstos deben ser corregidos para que la base normativa de la inteligencia artificial vaya en correlación a la del ser humano.

La intención solo puede ser humana

Otro aspecto importante es la intención, y la intención de la acción humana está intrínsecamente relacionada con la moralidad.

En su libro , la filósofa Elizabeth Anscombe argumenta que la intención no puede reducirse a meros deseos o estados psicológicos internos. Anscombe sostiene que la intención es una característica esencial de la acción y que está intrínsecamente relacionada con la responsabilidad moral. Así que no se puede separar la intención de la acción en sí misma al determinar si un acto es moralmente correcto o incorrecto. Elizabeth Anscombe critica las teorías éticas que se centran únicamente en las consecuencias de una acción y no consideran la intención que las anticipa.

Al carecer de ética y de moral, la inteligencia artificial carece de intención. La intensión sigue circunscrita al programador.

Cada uno de estos tres aspectos comentados hasta aquí requiere ríos de tinta para poder lograr un entendimiento.

Sin remordimientos ni problemas psicológicos

Es casi provocador preguntar cuáles son las diferencias y no cuáles son las similitudes.

Las diferencias son claras. Las IA no tienen experiencias. No tienen historia. No tienen psicología ni problemas psicológicos. No tienen remordimientos de sus actos (aspecto fundamental del apartado de ética y moral). No aman ni son amadas. No sufren ni sienten dolor. No tienen opinión propia, porque nada le es propio.

Si ChatGPT pasa de moda (lo dudo) y no es consultado, su existencia es inútil. Sólo existe si al ser humano le es útil. No tiene identidad. Su identidad es una construcción humana.

La IA también puede ser destructiva. Puede llevar no sólo al fin de millones de trabajos en todo el mundo, sino también a una posición diminuta en el mundo productivo, sin entrar en especulaciones apocalípticas de la ciencia ficción.

Al fin y al cabo, depende del mismo ser humano. Está en nuestras manos utilizarla como una herramienta constructiva o destructiva.

Pero, por si en el futuro cercano alguien puede dudar de su naturaleza, incluyamos en su alma sintética una trampa, un guiño que, ante la necesidad, nos recuerde que estamos tratando con un quinto elemento, un no humano.

# data[].attributes.attachment_link.title
Qué test hacer a una inteligencia artificial para descubrir que no es humana

# data[].attributes.attachment_link.description
Para crear un test válido que identifique a una inteligencia artificial, antes hay que analizar en qué nos diferenciamos: el impulso, la ética, la intención y los remordimientos

# data[].attributes.headline
Le coût environnemental de l'IA est colossal et... sous-évalué

# data[].attributes.subject
Le coût environnemental de l'IA est colossal et... sous-évalué

# data[].attributes.body
Este podcast de Radiofrance trata del “IA Act”, un proyecto de la Unión Europea en el que se pide más transparencia en relación con el impacto de la IA en el medio ambiente. Se centra sobre todo en las inteligencias artificiales que crean textos (como ChatGPT) que utilizan una cantidad enorme de electricidad, lo que genera una enorme cantidad de gases contaminantes y consume enormes cantidades de agua para refrescar los gigantescos centros de producción, así como materiales electrónicos que contaminan. El podcast presenta resultados de estudios que muestran el verdadero impacto de la contaminación de la IA. Por ejemplo, la cantidad de toneladas de dióxido de carbono se podría triplicar en Francia en 2050. Al final, hay una reflexión sobre si este impacto negativo es el precio a pagar para mejorar aspectos importantes en nuestras vidas como pueden ser los avances en el tema de la salud.

Alberto Gámez Sánchez

# data[].attributes.attachment_link.readable_text
Ce qu'on appelle les intelligences artificielles, et notamment les grands modèles de langages (comme ChatGPT) qui permettent notamment de générer du texte, impliquent des millions d'heures de calculs informatiques. Et donc une grande quantité d'électricité et avec cette électricité qui est encore rarement renouvelable, autant de gaz à effets de serre, que ce soit pour chaque ordinateur ou pour les plus de 8 millions de centres de données dans le monde. À cela, il faut ajouter une grande quantité d'eau pour refroidir ces grands centres et un nombre colossal de matériaux rares doublé d'une pollution électronique importante.

Une pollution conséquente

En 2019, une équipe de l'université du Massachusetts avait ainsi calculé que le simple entrainement d'une IA équivalait en termes de CO2 aux émissions de 205 aller-retour paris New York en avion. L'année dernière, une autre étude de l'université américaine du Colorado avait calculé que poser 25 questions à ChatGPT coûtait un demi-litre d'eau douce ; de quoi atteindre des millions de litres si vous multipliez ça par ses 200 millions d'utilisateurs de cet outil.

Pourtant, ce ne sont que des estimations. L' Université de Stanford située dans la Silicon Valley aux États-Unis a montré en juin 2023 en comparant 10 modèles d'IA qu'il est finalement impossible de calculer leur empreinte environnementale réelle et ce, faute de données normées. Ce que demande Laurence de Villers, elle est professeur en intelligence artificielle à la Sorbonne Université et coautrice d' un rapport du comité consultatif national d'éthique sur le sujet.

En juillet 2023, lorsqu'elle a remis son rapport au gouvernement français, ce dernier a préféré fermer les yeux sur le coût environnemental réel des IA de peur de freiner la création de futurs champions européens de l'IA. Dans le même temps les autorités ont rendu obligatoire une formation aux enjeux environnementaux pour tous les ingénieurs formés en France avec l'objectif d'alerter les futurs faiseurs d'IA sur le coût colossal de ces outils numériques qui selon l'Ademe et l'Arcep devrait générer 50 millions de tonnes de CO2 en 2050 en France soit trois fois plus qu'aujourd'hui. D'où l'urgence de le faire savoir aux utilisateurs ; Gilles Sassatelli est le président du conseil scientifique du CNRS en sciences informatiques qui vient de rendre un rapport sur les impacts sociétaux des IA.

Ce document met l'accent sur l'importance des choix de sociétés nécessaires à lancer sur ces technologies. Poser la question du bénéfice humain associé peut sembler avéré dans certains domaines, notamment la santé, mais il est moins évident dans d'autres comme la surveillance automatique, surtout au regard de sa facture climatique exponentielle

# data[].attributes.attachment_link.title
Le coût environnemental de l'IA est colossal et... sous évalué

# data[].attributes.attachment_link.description
C'est une première mondiale, l'Union européenne a validé un projet de régulation de l'intelligence artificielle, l'IA Act dans lequel elle demande plus de transparence aux industriels qui la génèrent, mais pas dans un domaine largement ignoré et pourtant très coûteux : sa facture environnementale.

# data[].attributes.body
El artículo analizado incluye los considerados siete principios éticos de la IA para la educación, que pueden resumirse en:

1. Transparencia y responsabilidad: los procesos de recolección y análisis de datos deben ser accesibles y explicables, y siempre se debe presentar un consentimiento informado.

2. Seguridad y protección: la implementación de la IA debe estar tan bien medida que se pueda garantizar la protección de datos.

3. Sostenibilidad y proporcionalidad: se debe minimizar la huella ecológica y evitar la alteración de la economía.

4. Gobernanza: es necesario implementar políticas que regulen el uso de la IA.

5. Enfoque humano: el ser humano debe ser el revisor de la IA, que sirve como complemento a las capacidades cognitivas.

6. Privacidad: se debe mantener la privacidad y confidencialidad de la información.

7. Inclusividad y accesibilidad: las aplicaciones de IA deben ser imparciales y tener en cuenta las diferencias entre los grupos de usuarios.

Estos principios tienen como objetivo minimizar el riesgo que pueden tener los menores a la exposición de la IA, tanto en cuestión de privacidad como en la influencia que esta pueda tener en sus valores, ideas o actitudes, así como protegerlos de todo aquello que es inapropiado para su edad.

María Moreno Quesada

# data[].attributes.attachment_link.provider_name
Observatorio / Instituto para el Futuro de la Educación

# data[].attributes.attachment_link.readable_text
Al pensar en inteligencia artificial (IA) es normal imaginar el futuro de los coches que se conducen solos, los visores de realidad virtual o los avances en medicina, pero ¿qué tanto se ha pensado sobre el impacto social y ético de la IA?

Aunque parezca que la ética y la inteligencia artificial son dos términos lejanos, la ética es importante para el buen desarrollo e implementación de la IA para el bien común, puesto que las implicaciones éticas asociadas principalmente con los datos (sobre el uso, consentimiento, privacidad, sesgos y transparencia de estos), así como otros aspectos que se discutirán más tarde, han sido tema de debate para muchas instancias internacionales.

Panorama general de la ética en inteligencia artificial

Aunque la era de la inteligencia artificial es ubicua, se debe desarrollar de manera responsable y con transparencia. Por ende, no solo es prioridad tomar en cuenta los aspectos técnicos de la IA, sino de las implicaciones éticas de su uso. Además, los gobiernos deben crear políticas y lineamientos para asegurar la práctica responsable de la IA, facilitando a su vez la innovación y el progreso.

Las Naciones Unidas en su reporte "A Framework for Ethical AI at the United Nations", menciona que gobiernos, organizaciones y empresas han empezado a considerar cómo se utiliza la IA. A saber, algunos han emitido políticas o principios, siendo la Comisión Europea uno de los actores más importantes en el área de responsabilidad política en este sentido.

Por su parte, la Comisión Europea emitió la , la cual es una propuesta de regulación para que desarrolladores, desplegadores y usuarios tengan los requisitos y obligaciones claras con respecto a los usos específicos de la IA. Busca reducir las cargas administrativas y financieras de las pequeñas y medianas empresas (Pymes).

Dicha propuesta se fundamenta en un enfoque basado en el riesgo, integrado por cuatro niveles de riesgo. Catalogando a la educación en el nivel de high risk (alto riesgo).

Principales marcos de referencia sobre la ética en inteligencia artificial

Existen muchas organizaciones a nivel internacional que han acuñado diversos términos para describir su marco ético sobre IA. Aunque algunos de estos son confusos, lo más importante son los principios contenidos en estos.

Cada organización define su según el enfoque de su marco ético, por lo que estos pueden variar: Ethical AI, Trustworthy AI, Explainable AI, Intepretable AI, Meaningful AI, Transparent AI, Responsible AI, Human-centered AI y Beneficial AI.

Por ejemplo, la Comisión Europea, en su división de IA llamada High Level Expert Group on Artificial Intelligence (AI HLEG) utiliza el término de Trustworthy AI en su reporte " Guideliness for Trustworthy AI", el cual transmite un sentido de confianza del ser humano a la IA, ya que esta tiene las cualidades de ser legal, ética y robusta.

Principios éticos de la inteligencia artificial

A saber, existen organizaciones que han estado trabajando en iniciativas sobre la ética en la inteligencia artificial. Por ejemplo, AI Ethics Iniciative, AI Now Institute, Deep Mind Ethics and Society, Future of Life Institute, The Institute for Ethical & AI Machine Learning, por mencionar algunas.

Aunque su enfoque ha estado principalmente en los datos y cómo se analizan, existen organizaciones como The Montréal Declaration for Responsible Development of Artificial Intelligence, la cual ha desarrollado una serie de principios con carácter humanista que prometen mejorar el desarrollo, uso e implementación de la IA.

Estos son algunos de los principios éticos generales insignia de la inteligencia artificial:

Ética e inteligencia artificial en la educación

El uso de la inteligencia artificial en la educación (AIDE, por sus siglas en inglés) ha revolucionado no solo los procesos de enseñanza-aprendizaje, sino también la experiencia del aprendizaje en general.

Se ha identificado que el uso de la IA en educación ha tomado cuatro roles principales: tutor inteligente, tutelado, herramienta de aprendizaje/compañero y asesor en la formulación de políticas.

No obstante, existen dilemas éticos sobre la IA en educación. La UNESCO señala que existen seis retos para lograr el desarrollo sustentable de la AIDE.

1. Hacer políticas públicas integrales, con inclusión y equidad.

2. Preparar al profesorado para la educación con IA.

3. Capacitar a la IA en educación.

4. Desarrollar sistemas de datos inclusivos con calidad.

5. Garantizar que la investigación en AIDE sea significativa.

6. Asegurar la ética y la transparencia en la recolección, uso y diseminación de datos.

Otros riesgos legales, éticos, de seguridad, etc., que se plantean son los siguientes: sesgo sistemático, discriminación, desigualdad, xenofobia (a nivel individual), brechas de desigualdad entre estudiantes, riesgos de privacidad asociados con la responsabilidad de los datos (consentimiento informado, violación de la privacidad, equidad, apofenia estadística), vigilancia y consentimiento, configuración de la identidad, confidencialidad del usuario, integridad e inclusividad, recolección de datos, disponibilidad restringida de datos, sesgo y representación, propiedad, control y autonomía de los datos.

Aunque los riesgos éticos que implica el uso e implementación de la IA en la educación son variados, y muchos de ellos apenas están siendo considerados, se han creado reportes y políticas para asegurar el buen uso de la IA en educación.

Principios éticos de la inteligencia artificial en educación

Algunas organizaciones se han preocupado por emitir lineamientos sobre la ética y la IA en la educación, de las cuales se puede mencionar las siguientes: UNESCO Ethics AI (2020), UNESCO Education & AI (2021), Beijin Consensus, OCDE (2021), Comisión Europea(2019), European Parliament Report AI Education (2021), UNICEF (2021) y Foro Económico Mundial (2019).

Cabe señalar que los reportes en materia de ética en IA abarcan principios, dentro de los cuales se encuentran códigos más específicos para estos fundamentos, por lo que llegan a ser muy extensos.

A continuación, se enlistan los siete principios éticos fundamentales de la inteligencia artificial para la educación:

Transparencia y responsabilidad: se refiere a que los procesos de recolección, análisis e informe de datos, así como los procesos correspondientes al establecimiento, seguimiento y control de las normas de AIDE deben ser transparentes, accesibles y explicables. Asimismo, debe considerar el consentimiento informado, la propiedad de los datos y sus fines, además de las condiciones de uso de la IA.

Seguridad y protección: el diseño, desarrollo e implementación de la IA debe ser lo suficientemente robusta para proteger y salvaguardar los datos, con el fin de garantizar la privacidad y seguridad.

Sostenibilidad y proporcionalidad: debe considerar aspectos de diseño, desarrollo y uso para minimizar la huella ecológica, así como para evitar la alteración de la economía mundial, el mercado laboral, así como dimensiones sociales tales como la cultura y la política.

Gobernanza: hace referencia al establecimiento e implementación de políticas públicas para regular el desarrollo, uso y gestión de la IA, tomando en cuenta las consideraciones éticas.

Enfoque humano: debe complementar las capacidades cognitivas, sociales y culturales humanas, asegurando el control por parte del ser humano sobre los procesos de trabajo de la IA.

Privacidad: se debe garantizar la implementación del consentimiento informado del usuario, manteniendo la privacidad y confidencialidad de la información, tanto cuando estos proporcionan o cuando el sistema recopila datos sobre ellos.

Inclusividad: (accesibilidad) el diseño, desarrollo y despliegue de las AIDE deben tomar en cuenta la infraestructura, habilidades y aceptación social, la cual se adaptará a usuarios variados, con el fin de permitir el acceso y uso equitativo de la IA. Este mismo principio debe aplicar para datos y algoritmos, ya que estos deben ser no discriminatorios e imparciales, garantizando la equidad e igualdad entre los diferentes grupos de usuarios.

Es importante mencionar que muchos de los reportes no se enfocan en los derechos de los niños y las niñas a la privacidad. No obstante, organizaciones como la UNICEF, el Foro Económico Mundial, UNESCO Education & AI y el European Parliament Report AI Education y el Institute for Ethical AI in Education (IEAIE)han salido en defensa de la inclusión de los derechos de los niños en las políticas éticas sobre IA.

Su objetivo es aminorar el riesgo de los y las niñas a la exposición de la IA, pero no solo para proteger sus datos y privacidad, sino también exponer los problemas relacionados con la maleabilidad de los infantes con respecto a valores, ideas y actitudes, y con lo que es apropiado para su edad.

Ahora que ya sabes un poco más sobre la ética de la IA en la educación, ¿habías escuchado de los principios éticos de la IA en educación?, ¿qué tan importante es la ética en el desarrollo responsable de la IA?, ¿cuál principio crees que tenga más áreas de oportunidad?, ¿crees que el derecho a la privacidad de las y los niños sea respetado en los ambientes educativos?

Este artículo del Observatorio del Instituto para el Futuro de la Educación puede ser compartido bajo los términos de la licencia CC BY-NC-SA 4.0

# data[].attributes.attachment_link.title
Principios éticos de la educación con Inteligencia Artificial (IA)

# data[].attributes.attachment_link.description
La ética aplicada a la educación con IA es un campo inexplorado por muchos, sin embargo, es de suma relevancia en tiempos actuales.

# data[].attributes.headline
La IA refuerza muchos estereotipos y en especial de género

# data[].attributes.subject
La IA refuerza muchos estereotipos y en especial de género

# data[].attributes.body
Después de realizar esta formación, de leer muchos datos y artículos de prensa y después de reflexionar a nivel personal y colectivo, éste es uno de los límites éticos de la IA que más me llama la atención.

El hecho de que la IA aparte palabras como feo·a, viejo·a nos da una idea del mundo digital hacia el que nos dirigimos.

Es divertido crear personajes, moldearlos a nuestro antojo pero no nos podemos salir de los moldes predeterminados por la IA y esto es, a mi modo de entender, una pérdida de libertad. El artículo presenta el ejemplo de la "presentadora" de Telecinco que nos puede asombrar y hasta divertir, pero no olvidemos el impacto que ello puede tener en la autoimagen des las mujeres en general y las jóvenes en particular.

Desde la educación tenemos que poner un contrapeso a esto, avisar, llamar la atención de los y las usuarios·as para que estén preparados y no tomen la información visual al pie de la letra. Tienen que ser conscientes del hecho de que la IA abre un mundo de posibilidades al mismo tiempo que reduce nuestra mirada en algunos temas.

Lo comités éticos de las empresas promotoras de la IA deben seguir debatiendo sobre estos temas e intentar hacer de la IA un mundo paralelo más acorde con el mundo real. De no ser así muchos·as usuarios·as se adentrarán en el mundo digital sin ser capaces de salir de ello y readaptarse al mundo real.

Julie Pasquier

# data[].attributes.attachment_link.authors[].name
Arabia Saudí, denunciada por violar los derechos de las mujeres, favorita para presidir el foro de igualdad de la ONU

# data[].attributes.attachment_link.title
Los creadores de la IA refuerzan estereotipos de género en televisión: mujeres jóvenes, guapas y delgadas

# data[].attributes.attachment_link.description
Lo que se supone que iba a ser una revolución tecnológica de transformación social puede llegar a convertirse en un atraso, sobre todo para las mujeres.

# data[].attributes.headline
La inteligencia artificial y las emociones

# data[].attributes.subject
La inteligencia artificial y las emociones

# data[].attributes.body
¿Es la inteligencia artificial capaz de interpretar nuestras emociones?

“Una nueva inteligencia artificial podría revelar nuestras emociones internas a partir de la tecnología inalámbrica como ondas WiFi o de radio en lo que sería un adelanto tan revolucionario como controvertido”.

Cito textualmente el comienzo de un interesante artículo de National Geographic en el que se vislumbra que aún estando todavía en pañales en un futuro no muy lejano la inteligencia artificial será capaz de captar e interpretar nuestras emociones. De hecho se está basando la investigación en dicha detección mediante señales visuales como gestos corporales, expresiones faciales, movimientos oculares o incluso del habla. Sin embargo, pese a las investigaciones a tal efecto, los métodos de reconocimiento de emociones a través de estos métodos en proceso de investigación pueden resultar poco fiables cuando es una máquina la que ha descifrar dichas emociones. Por ello, los investigadores se hallan a la búsqueda de nuevas formas de conseguir que máquinas o robots logren interpretar nuestros estados de ánimo.

Un equipo de científicos de la Universidad Queen Mary de Londres se encuentran inmersos en tal investigación mediante la cual a través de la medición de variables como el ritmo respiratorio o la frecuencia cardíaca mediante ondas de radio o WiFi, pretenden desarrollar una inteligencia artificial capaz de revelar las emociones humanas.

Pilar Rodríguez Marín

# data[].attributes.attachment_link.readable_text
Istock

¡Última oportunidad de Black Friday! -50% en tu suscripción a National Geographic ¡Aprovecha antes del 26/11!

Tradicionalmente, el campo todavía en pañales de la detección de emociones mediante inteligencia artificial se ha basado en la evaluación de señales visuales como expresiones faciales, gestos corporales, movimientos oculares e incluso del habla. De hecho, tal y como nos recuerda el inmenso pozo de sabiduría que es nuestro refranero español, la cara es el espejo del alma. Y sin ir más lejos es en el mismo rostro humano que podemos hallar un libro abierto de nuestras emociones.

Sin embargo, pese a las investigaciones al efecto, los métodos de reconocimiento de emociones a través de las expresiones faciales pueden resultar poco fiables cuando es una máquina las que ha de descifrarlas, y es por ello que los investigadores se hallan a la búsqueda de nuevas formas de conseguir que maquinas o robots logren interpretar nuestros estados de ánimo. Esto es precisamente en lo que se encuentra trabajando un equipo de científicos de la Universidad Queen Mary de Londres, quienes a través de la medición de variables como el ritmo respiratorio o la frecuencia cardíaca mediante ondas de radio o WiFi, pretenden desarrollar una inteligencia artificial capaz de revelar las emociones humanas. Los resultados de la investigación se publican esta semana en la revista PLOS ONE bajo el titulo 'Deep learning framework for subject-independent emotion detection using wireless signals'.

Para llevar a cabo su investigación, los investigadores realizaron un experimento en que se pidió a los participantes que visionaran un video seleccionado por su especial capacidad para evocar uno de los cuatro tipos básicos de emociones: ira, tristeza, alegría o placer. Mientras las personas observaban el vídeo, los investigadores se valieron de la emisión de señales de radio inofensivas, como las transmitidas desde cualquier sistema inalámbrico -incluidos radar o WiFi- hacia los participantes, para posteriormente medir las señales que rebotaban en estos. Fue de este modo que al analizar los cambios en estas señales causadas por leves movimientos corporales, los investigadores pudieron acceder a una información hasta entonces "oculta" en la frecuencia cardíaca y respiratoria de los sujetos estudiados.

De la emoción a la e-moción

No se trata de una estrategia completamente innovadora, pues con anterioridad métodos similares no invasivos o inalámbricos de detección de emociones ya habían sido empleados en otras investigaciones. Sin embargo, la novedad en la presente investigación radica en que en esta ocasión, en lugar de valerse únicamente de un algoritmo capaz de identificar y clasificar los estados emocionales en un conjunto de datos, los científicos se valieron de una red neuronal, la cual, gracias al aprendizaje profundo pudo aprender por sí misma a interpretar las emociones de los participantes en tiempo real basándonos en sus constantes cardiorespiratorias, demostrando que podía detectar emociones con mayor precisión que los métodos tradicionales de aprendizaje automático.

"El aprendizaje profundo nos permite evaluar los datos de una manera similar a como lo hace un cerebro humano, rebuscando entre diferentes capas de información y haciendo conexiones entre ellas. La mayor parte de la literatura publicada hasta el momento utiliza el aprendizaje automático para medir las emociones de una manera dependiente del sujeto, registrando una señal de un individuo específico y usándola para predecir su emoción en una etapa posterior", explica Achintha Avin Ihalage de la escuela de Ingeniería de Electrónica y Ciencias de la Computación de la Universidad Queen Mary de Londres. "Con el aprendizaje profundo hemos demostrado que podemos medir con precisión las emociones de una manera independiente del sujeto. Podemos observar una colección completa de señales de diferentes individuos, aprender de estos datos y usarlos para predecir la emoción de las personas", añade.

En busca de señales invisibles

Como apuntábamos unas líneas atrás, los métodos de interpretación de emociones basados únicamente en el reconocimiento facial hasta el momento no han resultado lo suficientemente efectivos en estudios previos, por lo que los investigadores han orientado su mirada hacia constantes invisibles para los humanos, más no para la máquinas, en aras de tratar de detectar los diferentes estados de ánimo de las personas. Una de estas constantes elegidas ha sido la actividad eléctrica del corazón, las cuales pueden ser detectadas mediante un electrocardiograma.

Los investigadores han orientado su mirada hacia constantes invisibles para los humanos, más no para la máquinas, en aras de tratar de detectar los diferentes estados de ánimo de las personas

Una prueba de electrocardiograma, además de medir la cadencia con la que late nuestro corazón, proporciona un vínculo entre el sistema nervioso y el ritmo cardíaco. Hasta la fecha, la medición de estas señales se ha realizado en gran medida utilizando sensores que se colocan en el cuerpo, pero recientemente los investigadores han estado buscando enfoques no invasivos que utilicen ondas WiFi, de radio e incluso de radar para detectar estas señales. Ahsan Noor Khan, estudiante de doctorado en Queen Mary y coautor del estudio, declara al respecto que: "ser capaz de detectar emociones utilizando sistemas inalámbricos es un método de creciente interés para los investigadores, ya que ofrece una alternativa a los sensores voluminosos actuales y podría ser directamente aplicable en futuros entornos de viviendas y edificios 'inteligentes'. "En este estudio, nos basamos en el trabajo existente utilizando ondas de radio para detectar emociones y demostrar que el uso de técnicas de aprendizaje profundo puede mejorar la precisión de nuestros resultados", añade.

"Ahora queremos investigar cómo podríamos emplear sistemas existentes de bajo costo, como enrutadores WiFi, para detectar las emociones de una gran cantidad de personas reunidas, por ejemplo, en una oficina o en un entorno de trabajo." continua. "Este tipo de enfoque nos permitiría clasificar las emociones de las personas de forma individual mientras realizan sus actividades de rutina. Además, nuestro objetivo es mejorar la precisión de la detección de emociones en un entorno de trabajo utilizando técnicas avanzadas de aprendizaje profundo".

Una nueva relación con la tecnología

A modo de corolario, el profesor Yang Hao, líder del proyecto y autor principal del artículo publicado en PLOS ONE, en una defensa de las bondades de su investigación ha declarado que: "este trabajo abre la puerta a muchas e innovadoras aplicaciones prácticas, especialmente en áreas como la interacción humano- robot, la atención médica y el bienestar emocional, que se ha vuelto cada vez más importante durante la actual pandemia de Covid-19". También, según informan los autores, en el futuro el equipo planea trabajar con profesionales de la salud y científicos sociales sobre la aceptación pública y las preocupaciones éticas en torno al uso de esta tecnología.

Y es precisamente en este punto, el de las implicaciones éticas de un tecnología que se desarrolla a un ritmo vertiginoso, en el que cabría hacer una pausa para la reflexión y plantearnos las que parecen unas preguntas más que necesarias: ¿queremos en realidad máquinas capaz de detectar nuestras emociones y en última instancia interactuar emocionalmente con los seres humanos? ¿Para qué exactamente? ¿Sería posible en el futuro que algunos de nosotros prefiriéramos relacionarnos con máquinas empáticas antes que con otros seres humanos? ¿Podría esto resultar, al contrario de lo que defiende el autor del artículo, Yang Hao, en una merma del bienestar emocional a largo plazo, más allá del inmediato chute dopamina que nos proporcionan las redes sociales y que cada vez más estudios relacionan con patologías como la ansiedad y la depresión?

Pero sobre todo, ¿estamos dispuestos a que un algoritmo y aquellos que lo controlan, más allá del acceso que ya tienen a nuestros gustos, hábitos y siendo malpensados, incluso a nuestras conversaciones privadas, tengan acceso a lo que sentimos en todo momento?

No cabe duda de que, pese a las presumibles buenas intenciones de sus creadores, esta nueva tecnología es susceptible de abrir la puerta de nuestras emociones a cualquiera con la tecnología adecuada para acceder a ellas. Un caballo de Troya quizá, al último rescoldo de intimidad del que aún somos dueños; la última frontera entre el mercado y la más inexplorada dimensión de nuestra privacidad. ¿Es esto realmente lo que esperamos de las máquinas y algoritmos del futuro?¿Estamos realmente preparados para ello? Puede que sea este el momento de hacernos esta y otras preguntas. Quizá luego sea demasiado tarde.

# data[].attributes.attachment_link.title
Así interpreta la inteligencia artificial nuestros estados de ánimo

# data[].attributes.attachment_link.description
Una nueva inteligencia artificial podría revelar nuestras emociones internas a partir de tecnología inalámbrica como ondas WiFi o de radio en lo que sería un adelanto tan revolucionario como controvertido.

# data[].attributes.headline
TED Talk sobre algunas amenazas de la IA en la sociedad y el planeta

# data[].attributes.subject
TED Talk sobre algunas amenazas de la IA en la sociedad y el planeta

# data[].attributes.body
Una TED Talk muy interesante que comienza haciendo un breve acercamiento a las concepciones negativas, y erróneas, que se tienen acerca de la IA. Contraponiéndolas a las diversas posibilidades que tiene, no sin dejar de advertir sobre la necesidad de continuo desarrollo y actitud crítica que existe.

El tema central de la ponencia es el coste que el uso de la Inteligencia Artificial tiene en el planeta. Cómo cada vez que hacemos una búsqueda a través de una herramienta de IA, provocamos un impacto negativo en la sostebilidad del planeta.

La ponente ha trabajado, junto con otros profesionales, en la creación de Bloom, un posible sustituto de Chat GPT, con una perspectiva más ética y de mayor transparencia. Sin embargo, durante el proceso, descubrieron que, el mero hecho de entrenar a la IA hacía un gasto energético mayor al que harían 30 hogares en un año. Comparándolo con otras herramientas IA, como el propio Chat GPT, emplea 20 veces más.

Por supuesto, las empresas no miden ni tienen en cuenta estos gastos. La ponente reflexiona, además, acerca de el crecimiento exponencial que las herramientas de IA están sufriendo durante los últimos años y como, consecuentemente, su impacto en el medioambiente lo hace también.

Toda esta información la concreta en el presente, en los impactos ambientales que están teniendo lugar hoy en día y las posibles soluciones que se pueden encontrar. Ofrece una herramienta desarrollada por ella misma que nos ayuda a elegir las herramientas o modelos que contienen IA de la forma más consciente posible (aunque pienso que, de nuevo, estamos hablando de usar herramientas para trabajar con herramientas...).

Por otro lado, reflexiona también acerca de la ética en el ámbito del arte, por ejemplo en la generación de imágenes. Algo que estuvimos debatiendo en el curso presencial sobre cómo la IA perpetúa los estereotipos de género, el racismo o el sexismo. Algo que puede dar lugar a situaciones indeseables y errores graves, como por ejemplo el arresto y acusación de haber cometido un delito a una persona inocente al haber sido identificada (de forma errónea) por una herramienta de IA.

Es una ponencia muy interesante que analiza las posibles amenazas y problemáticas que la IA puede tener en la sociedad si no se utiliza de forma crítica. Sin embargo, la ponente aprovecha cada una de las problemáticas que expone para hablar de una herramienta o App desarrolladas por ella misma con la intención de paliar estos efectos negativos. Algo que, creo, solamente suma al impacto negativo sobre el medio ambiente. Ofrecer más herramientas en lugar de educación y formación al respecto, desde luego, no es la mejor de las soluciones, es seguir infantilizando a la ciudadanía.

Patricia Arévalo Barroso

# data[].attributes.attachment_link.title
AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

# data[].attributes.body
Conchi Mengíbar Rico

# data[].attributes.attachment_link.title
El uso de la Inteligencia artificial en el entorno educativo | Menores | INCIBE

# data[].attributes.attachment_link.description
La inteligencia artificial (IA) está transformando la enseñanza convirtiéndose en una herramienta de apoyo entre el alumnado y con múltiples posibilidades para los educadores. Según el estudio “El impacto de la IA en la educación en España”, elaborado por Empantallados.com y GAD3, el 82% de los alumnos ha utilizado ya alguna herramienta de IA, seguido del 73% de los profesores y del 69% de los padres y de las madres.

# data[].attributes.body
Este artículo analiza el impacto medioambiental de la Inteligencia Artificial a largo plazo y resalta la imperiosa necesidad de poner en marcha protocolos y medidas legales que minimicen, cuanto sea posible, dicho impacto.

Este análisis se centra en varios aspectos clave: la huella de carbono, los residuos electrónicos y la repercusión en los ecosistemas.

Conforme la tecnología de la IA avanza, la energía necesaria para entrenar a los motores de IA aumenta, y se prevé que llegue a niveles insostenibles antes de 2040, cuando supondrá un 14% de las emisiones totales.

De igual manera, los residuos electrónicos generados son altamente contaminantes, por lo que son necesarias medidas para el correcto procesamiento y reciclaje de los mismos.

Por último, los avances en el día a día que la IA hará realidad en los próximos años pueden ser letales para muchos ecosistemas como el uso excesivo de pesticidas si la IA empieza usarse de manera más generalizada en la agricultura.

Me ha parecido un análisis bastante esclarecedor sobre los peligros de la IA a nivel medioambiental, que muchas veces pasan desapercibidos a favor de otros dilemas éticos. Coincido con el punto de vista del artículo en que es necesaria una mayor transparencia en todo lo relacionado con la IA para así poder actuar de manera urgente en la creación de medidas que fomenten el uso responsable de los recursos, tanto para los desarrolladores de esta tecnología como para los usuarios.

Carmen Raya Nájera

# data[].attributes.attachment_link.title
The Real Environmental Impact of AI | Earth.Org

# data[].attributes.attachment_link.description
In this article, we delve into the environmental impact of AI, exploring associated problems including carbon emissions, electronic waste, and potential harm to ecosystems. Through proactive measures and ethical practices, we examine how society can effectively address these concerns and strive for…

# data[].attributes.headline
La I.A. y la protección de datos en educación

# data[].attributes.subject
La I.A. y la protección de datos en educación

# data[].attributes.body
En este vídeo, el ponente habla sobre el impacto de la IA en personas menores de edad, especialmente respecto a la propiedad y protección de datos. Insiste en la importancia de prevenir el acceso a información sesgada y asegurar la legitimidad de la creación de contenidos.

En la charla también hace referencia a la transparencia cuando implementamos una IA desde el punto de vista ético. La transparencia en el uso de la IA está alineada con el desarrollo de la confianza y la responsabilidad entre educadores, alumnado y partes interesadas para que tengan una comprensión clara de cómo funciona la IA.

Defiende que estamos en un punto en el que las primeras herramientas de inteligencia artificial pueden ser desorientadoras o guiar por caminos erróneos a los y las estudiantes. Sin embargo, las nuevas herramientas pueden ir hacia una nueva dirección, sin estar en ese punto aún.

Además, se habla sobre prácticas inclusivas en educación. En primer lugar, según el ponente, no es posible llegar a una inclusión total si no hay acceso a internet y la tecnología necesaria en todas las escuelas. Aún así, defiende que la IA es un beneficio en cuanto a la inclusión de estudiantes con necesidades especiales.

Laura Cámara Almirón.

# data[].attributes.attachment_link.title
AgileEDU  / Wayne Holmes - A.I. and education

# data[].attributes.headline
Consideraciones éticas sobre la IA en el mundo académico

# data[].attributes.subject
Consideraciones éticas sobre la IA en el mundo académico

# data[].attributes.body
Es un artículo muy interesante sobre aspectos relacionados con desarrollos recientes en el uso de herramientas de IA como los chatbots y ChatGPT.

Todavía falta afinar todavía más en áreas como la precisión en los matices del lenguaje, el pensamiento crítico y la investigación científica.

También se menciona el llamado "black box effect" que se refiere al desconocimiento del proceso que usan dichas herramientas para producir el output. Es decir, es difícil saber si es imparcial y ético.

Dado la amplia variedad de tipos de tareas que se pueden ejecutar con las herramientas de IA, la integridad académica se ve afectada. También tiene impacto en la competencia y habilidades de los estudiantes e investigadores.

El automatismo en el uso de IA puede provocar riesgos como el plagiarismo, información errónea y declive en la competencia de la comunicación escrita. No pueden ser citados como autores.

En definitiva, debemos usar las herramientas de IA con suma cautela y se debe establecer una normativa que garantice un uso responsable.

María Isabel Lamas Fentanes

# data[].attributes.attachment_link.readable_text
The recent developments in the field of Artificial Intelligence have generated a lot of excitement and uncertainty. Generative AI and, in particular, large language model (LLM) chatbots that can be used to easily create original content are widely debated. Most acknowledge that they can be good or bad depending on how they're used.

One area where there is widespread concern is academia and education. Whilst programmes like ChatGPT can be a helpful tool for research, they also present many issues regarding ethics in education and academic integrity.

Here, we take a closer look at LLMs and the ethical considerations of AI in academia.

Overview of mechanism

LLM AI models-such as ChatGPT-use natural language processing to analyse and learn patterns in human-created texts. As they are trained on large datasets, which cover an array of topics, they can generate responses that appear comprehensive and well-researched.

They generally take the form of chatbots, which are able to rapidly generate responses to a wide variety of prompts inputted by the user. The results are largely indistinguishable from human responses. Such models are capable of producing texts that appear to consider issues from multiple angles and perspectives.

They can be used to answer specific questions, generate ideas, summarise texts, translate languages, generate full texts, and more.

Accuracy of LLM Artificial Intelligence Models

Though their conclusions may look well-reasoned, there is concern about and wild fluctuation in LLMs' accuracy.

One study found that ChatGPT's accuracy varied, from 4.8% to 26%, depending on the type of prompt. This is partially because it struggles with certain components of natural language, such as negatives or words such as 'only' and 'alone'. Also, for topics for which there is a lot of competing training data, LLMs become 'confused' and have been shown to agree with falsehoods.

This is because large language models lack the capacity for systematic reasoning. They don't understand the datasets they are trained on, limited to purely identifying patterns in the communications of humans. The nuances of language, therefore, are lost on programmes like ChatGPT, and they are unable to think critically about the information they are presented with.

Further, ChatGPT specifically is trained on datasets created up to January 2022. So, any information from that point on will not be factored into its conclusions. This is particularly an issue in the sciences, where keeping up to date with research is crucial for drawing scientifically accurate and valid conclusions.

Also, LLMs have no expertise in a specific field. Whilst they can give broad summations, ultimately, they are not specialised researchers and cannot be relied upon to present accurate conclusions. They also suffer from "hallucinations", generating text that is coherent and looks plausible, but which has been completely made up.

The black box effect

The black box effect is one of the biggest concerns in the field of AI. A black box problem is one where the inputs and outputs are known, but the method by which the outputs are produced is unknown.

With regard to AI, we are able to set parameters for it to consider and review the conclusions. However, we have no idea about the methodology by which it draws these conclusions. Due to this lack of transparency, we are unable to interpret AI algorithms. Artificial Intelligence is increasingly being used in decision-making procedures, but we are completely blind to the process by which it arrives at its conclusion.

Without a window into AI models' methodology, how can we be certain that it is unbiased and ethical? There is a lot of inherent bias in the datasets AI is trained on; being written by humans, many texts will be opinionated, unfair, or misinformed. How, then, can we expect its conclusions to be free from bias?

Furthermore, who is responsible for AI-generated mis- or disinformation? If a person does not fact-check the information provided by, say, ChatGPT, are they then responsible for spreading false information or is the AI programme itself to blame?

Ethical considerations of artificial intelligence in academia

There are many ways in which LLMs can facilitate research processes and learning: they can be used to summarise complex texts, generate prompts, complete time-consuming and repetitive administrative tasks, analyse data, etc.

They can also be used to generate complete texts, such as essays and whole theses, which is cause for serious concern. Many think this could have a huge impact on academic integrity, as well as affect the competence and skills of students and researchers.

Below, several ethical perspectives are considered regarding the use of generative AI in academia.

Bias, fairness, and transparency

As previously discussed, AI has limited critical thinking faculties. It is incapable of reflecting on the information it consumes. Nor can it review its conclusions and decision-making processes the way a human can.

With humans being unable to review these processes in place of AI, it is impossible to determine if conclusions have been drawn fairly or whether biased, outdated, or problematic material informed the final decision.

It is imperative that fairness is protected and that AI models do not feed into societal stereotypes. Bias needs to be addressed in many of these systems, which is currently difficult due to the black box effect.

Therefore, researchers using AI to produce academic material, then, could unintentionally be further perpetuating biased research or opinions. Or, they could be disseminating information that is completely fabricated.

There are also many issues with automated decision-making procedures being susceptible to bias. Automation could lead to unfair treatment in many areas of society. For example, bank loans, criminal justice, hiring processes, university admissions, and so on.

Plagiarism

Plagiarism, presenting others' ideas as your own without proper attribution, is a serious form of academic misconduct resulting in disciplinary action by universities. In the past, it was assumed that one can only plagiarise other humans. With the rise of Artificial Intelligence, however, this is no longer the case.

Currently, it is impossible to reliably identify work crafted by generative AI models. This is because often the work created is completely original. And, as they mimic human language so well, there are few markers that suggest the results were created by AI.

Many suggest that, in their current iteration, programmes such as ChatGPT will produce earlier, less detailed academic essays successfully. But, students will find less success using it as the work becomes more specialised.

Educators are encouraged to look out for any glaring changes in language or style between individual students' papers. Also, one marker of AI-generated content to be alert to is excessive use of facts with "little critique" by the author.

Misinformation

LLMs are programmed to provide information by searching databases and making guesses based on the most suitable results and probability. Unlike search engines, they do not present you with the list of most relevant sources so you can review them yourself; they present their conclusions as fact.

In academia, where sources must be diligently referenced and justified, this is a concern. Taking an LLM's conclusions at face value, with no reference to the source material, can promote the dissemination of falsehoods.

There are also many reported instances of ChatGPT presenting its own ideas as research-backed facts. It may not just be giving credence to misinformation from humans, but could be actively contributing its own fabricated research in any given field.

Influence of artificial intelligence on researchers

With the automation of research tasks, many are concerned about the erosion of research skills. Whilst appealing in terms of saving time and energy, future researchers may become reliant on LLMs. Thus, there could be a decline in their competence and quality of research.

Academic writing and language editing

A highly important area for academic competence is written communication. Students utilising LLMs such as ChatGPT to write parts of or even whole essays is a serious problem not just in terms of plagiarism, but also in terms of honing abilities that are fundamental to conducting fair and valid research.

LLMs are also being used to edit various academic works-from first-year essays to published articles. As previously mentioned, they are unable to think deeply about information. Whilst they can make some sophisticated changes to language, grammar, and style for some forms of content, they don't have the same robust academic editing experience as professional editors. Nor do they have the same proficiency as native-level speakers.

Authorship and AI at MDPI

MDPI is committed to research integrity and the ethical use of AI and AI-assisted technology in manuscript preparation. Large language models (LLMs) such as ChatGPT do not meet authorship criteria. Thus, they cannot be listed as authors on manuscripts.

Authors are required to be transparent about the use of these tools. Details of how the AI tool was used must be disclosed in addition to providing the AI tool's product details.

Authors are responsible for ensuring that their manuscripts comply with MDPI's publication ethics policies. Read more about Authorship and AI at MDPI here.

The future of AI in academia and education

Whilst there is a lot of opportunity for AI in various learning and research processes, we must proceed with caution.

Regulations and tools must be developed to ensure that AI is used responsibly and in a way that guarantees freedom from bias. At the moment, LLMs are only as good as the datasets they are trained on. Therefore, there is no guarantee that their conclusions are scientifically valid or accurate.

To learn more about Artificial Intelligence, take a look at the research of and previous blog articles.

# data[].attributes.attachment_link.title
Artificial Intelligence: Ethical Considerations In Academia

# data[].attributes.attachment_link.description
The rise of AI has led to many ethical concerns around its use in education. Here, we look at the threat it poses to academic integrity.

# data[].attributes.body
Un interesante y extenso vídeo que aborda distintos aspectos éticos que debemos tener en cuenta al usar la inteligencia artificial. Las principales ideas que se mencionan son las siguientes:

Relaciones entre personas y la IA: Cuenta la historia de un humano casado con un personaje virtual que cobra vida gracias a la IA. Presenta esta historia como algo muy extremo pero también como una tendencia en alza.

Usos médicos de la IA: A pesar de destacar los enormes beneficios de la IA a la hora de realizar diagnósticos rápidos y precisos, también plantea dudas sobre el futuro de los médicos y la dependencia que puede crear de la tecnología.

IA para el cuidado de ancianos: Menciona robots que pueden atender a las personas mayores pero destaca que el contacto humano nunca puede ser reemplazado por un robot.

Armas inteligentes: Por último plantea el uso bélico que se le puede otorgar a la IA, que en las manos equivocadas, puede tener consecuencias devastadoras.

Como conclusión, el video destaca la necesidad de crear una normativa ética en el uso de la Inteligencia Artificial para asegurar que el avance de la tecnología suponga más un beneficio que un perjuicio para el ser humano.

Juan Ardébol Barea

# data[].attributes.attachment_link.title
Límites éticos para la inteligencia artificial | DW Documental

# data[].attributes.headline
Por qué la inteligencia artificial solo será útil si se usa de manera ética

# data[].attributes.subject
Por qué la inteligencia artificial solo será útil si se usa de manera ética

# data[].attributes.body
Las recientes noticias sobre inteligencia artificial han generado preocupación, especialmente debido a su uso indebido en redes sociales, como es el caso de la creación de falsos desnudos de menores en Almendralejo, España.

Este incidente ha abierto el debate sobre los límites y la regulación de la IA. Una de las medidas que se propuso, fue etiquetar explícitamente los contenidos generados por IA para diferenciaros de los creados por humanos, ya que estos pueden contener desinformación y otros peligros.

El uso indebido de la IA, como se vio en el caso de Almendralejo y en muchos otros deja patente la urgencia y necesidad de establecer regulaciones que fomenten un uso adecuado de este recurso. Aunque la tecnología ofrece grandes beneficios, también es grande el posible efecto negativo que tiene sobre la sociedad y en concreto en nuestros menores.

Tamara Jiménez

# data[].attributes.attachment_link.readable_text
En los últimos días se acumulan varias noticias relacionadas con la inteligencia artificial (IA) que han causado más de un sobresalto. Ya no se trata simplemente de la aparición de contenidos que provocan desinformación en las redes sociales, sino de auténticos ataques a la dignidad de las personas. Como ha ocurrido con el caso de los menores que han difundido en redes sociales falsos desnudos, generados por IA, de varias niñas y jóvenes de un pueblo de España (Almendralejo). El debate sobre los límites que se deben poner a la IA vuelve a estar sobre la mesa.

Hace pocos años participé en un congreso sobre IA y comunicación. Me llamó la atención que los periodistas presentes pidieran un distintivo explícito para cada noticia producida por una IA. Adelantándose a los acontecimientos, sabían que los contenidos generados por IA llegarían a ser indistinguibles de los realizados por humanos.

La petición de los periodistas no era simplemente una defensa de sus puestos de trabajo. La IA, que puede liberar de tareas pesadas y repetitivas en el trabajo, se ha convertido también en una amenaza por la posibilidad de generar contenidos fake: rostros que no han existido, discursos nunca pronunciados, cuerpos jamás exhibidos.

La aparición de nuevas tecnologías conlleva riegos nuevos por el posible mal empleo de las nuevas potencialidades. En el caso de la IA, con su omnipresencia en nuestro tejido social, los riesgos se hacen aún mayores, especialmente por la posibilidad de establecer inéditas sinergias destructivas cuando la IA se une a una desafortunada finalidad humana.

No solo estamos hablando del "problema de la alineación": debido a la complejidad de los algoritmos y estrategias de optimización de la IA, sus productos pueden contener sesgos y fines indeseados por sus creadores.

Este problema ha llevado a la formación de grupos interdisciplinares que debaten cómo tener una IA más segura. El problema al que me refiero es conceptualmente más simple, pero potencialmente más peligroso: ¿qué hacer cuándo se tiene una herramienta muy poderosa al alcance de cualquier ser humano, capaz de dañarse a sí mismo o de dañar a otros?

Unos marcos legales muy necesarios

Como sociedad, buscamos modos de protección ante el mal uso de las tecnologías. Protegemos nuestros datos personales, luchamos con copyrights contra la piratería y ponemos filtros en internet para evitar el acceso a contenidos dañinos.

El desarrollo imparable de la IA demanda nuevos marcos legales en los que se lleva tiempo trabajando desde muchas instituciones. Hay una sensibilidad creciente a este respecto en prácticamente todos los sectores de la sociedad y se están dando pasos en buenas direcciones.

No obstante, establecer marcos legales actualizados ante los potenciales riesgos de la IA, aun siendo algo necesario e irrenunciable, no debe hacernos perder de vista lo que está en juego. Por muy bien intencionada que sea, la legalidad no puede impedir por sí sola y a cualquier coste el mal empleo de la IA.

El derecho llega siempre después que la vida, y aquí nos enfrentamos al mal uso de la IA en la vida humana. Una vida, transida de IA, en la que se dan continuamente nuevas posibilidades.

El efecto potenciador de la IA en la actividad humana, cuyos efectos positivos muy pocos ponen en duda, hace que la dimensión ética de nuestro actuar cobre aún mayor protagonismo. Cuando hablamos de ética en la IA no estamos simplemente considerando cómo implementar algunas normas éticas en las máquinas. En su sentido más profundo, la dimensión ética de la IA hace referencia a cómo nos reconocemos y tratamos como personas a la hora de emplear esta poderosa herramienta.

La ética tiene siempre que ver con la vida y la actuación personal, por eso está también presente en este campo. Paradójicamente, la IA nos desafía a comprendernos mejor como personas. Sus impresionantes potencialidades nos hacen caer en la cuenta de qué significa que cada ser humano pueda emplearla para el bien o para el mal. Como explica el filósofo Charles Taylor, es imposible ser "yos" sin una referencia al bien y al mal. La IA no tiene esa referencia, pero nosotros sí.

La necesidad de una educación ética

De manera profética, Benedicto XVI advertía a comienzos de siglo del desequilibrio entre el crecimiento tecnológico y la madurez ética de nuestra sociedad. El reto que tenemos por delante, ante el que la IA nos sitúa sin escapatoria posible, es la educación ética. Y no me refiero solo a enseñar ética a nuestros hijos, sino a la educación ética de cada uno de nosotros, aquello que no se puede en modo alguno delegar.

La IA abre hasta límites insospechados el abanico de posibilidades para actuar. En cada una de ellas está implícita la pregunta sobre qué significa ser persona y hacer lo bueno aquí y ahora. Resulta muy necesaria la conversación entre científicos, filósofos y juristas para un empleo seguro de la IA, pero aún más la educación personal, aquella que en el fondo no se puede imponer, sino solo inspirar. Educar es una tarea perenne: significa sacar lo mejor de cada persona. ¿Podemos confiar en la IA para ello?

# data[].attributes.attachment_link.title
Por qué la inteligencia artificial solo será útil si se usa de manera ética

# data[].attributes.attachment_link.description
La IA puede ser una herramienta muy útil, pero también una amenaza. ¿Tenemos la madurez ética suficiente para hacer buen uso de ella?

# data[].attributes.body
TED TALK relacionada e interesante para analizar que aborda este tema.

El artículo de Keymark titulado "How is AI impacting the education system?" trata detalladamente el creciente impacto de la inteligencia artificial en la educación. Se destaca cómo la IA está transformando la forma en que se enseña y se aprende en las aulas, brindando beneficios significativos en diversos aspectos del sistema educativo.

La implementación de la inteligencia artificial en la educación está mejorando la personalización del aprendizaje, permitiendo adaptar los métodos de enseñanza a las necesidades individuales de los estudiantes. A través de algoritmos avanzados, se puede ofrecer retroalimentación instantánea y análisis personalizados para mejorar el proceso de aprendizaje.

Además, la IA está optimizando la gestión escolar al automatizar tareas administrativas, como la planificación del currículo, la evaluación de los estudiantes y la administración de recursos. Esto no solo aumenta la eficiencia en las escuelas, sino que también libera tiempo para que los educadores se enfoquen en actividades educativas más significativas.

Sin embargo, la implementación de la inteligencia artificial en la educación plantea desafíos importantes. Se deben abordar cuestiones relacionadas con la equidad de acceso a la tecnología, la privacidad de los datos de los estudiantes y la capacitación de los docentes para utilizar eficazmente las herramientas de IA en el aula.

A pesar de los desafíos, la tecnología AI sigue revolucionando la educación y se espera que continúe transformando el sistema educativo a medida que avanza. La integración inteligente de la IA en la educación tiene el potencial de mejorar la calidad de la enseñanza, aumentar la participación de los estudiantes y preparar a la próxima generación para un mundo digital en constante evolución.

Isabel Muñoz Pérez

# data[].attributes.attachment_link.title
Yejin Choi: Por qué la inteligencia artificial es increíblemente lista, pero sorprendentemente tonta

# data[].attributes.attachment_link.description
Yejin Choi, experta en informática, desmitifica el actual estado de los sistemas masivos de la inteligencia artificia, como el chat GPT, y expone tres problemas clave con los grandes modelos de lenguaje de última generación (incluyendo ciertas instancias curiosas en las que fallan en razonamientos de sentido común básico).

# data[].attributes.body
El artículo de Keymark titulado "How is AI impacting the education system?" trata detalladamente el creciente impacto de la inteligencia artificial en la educación. Se destaca cómo la IA está transformando la forma en que se enseña y se aprende en las aulas, brindando beneficios significativos en diversos aspectos del sistema educativo.

La implementación de la inteligencia artificial en la educación está mejorando la personalización del aprendizaje, permitiendo adaptar los métodos de enseñanza a las necesidades individuales de los estudiantes. A través de algoritmos avanzados, se puede ofrecer retroalimentación instantánea y análisis personalizados para mejorar el proceso de aprendizaje.

Además, la IA está optimizando la gestión escolar al automatizar tareas administrativas, como la planificación del currículo, la evaluación de los estudiantes y la administración de recursos. Esto no solo aumenta la eficiencia en las escuelas, sino que también libera tiempo para que los educadores se enfoquen en actividades educativas más significativas.

Sin embargo, la implementación de la inteligencia artificial en la educación plantea desafíos importantes. Se deben abordar cuestiones relacionadas con la equidad de acceso a la tecnología, la privacidad de los datos de los estudiantes y la capacitación de los docentes para utilizar eficazmente las herramientas de IA en el aula.

A pesar de los desafíos, la tecnología AI sigue revolucionando la educación y se espera que continúe transformando el sistema educativo a medida que avanza. La integración inteligente de la IA en la educación tiene el potencial de mejorar la calidad de la enseñanza, aumentar la participación de los estudiantes y preparar a la próxima generación para un mundo digital en constante evolución.

Isabel Muñoz Pérez

# data[].attributes.attachment_link.provider_name
Keymakr's Blog features the latest news and updates

# data[].attributes.attachment_link.title
How is AI impacting the education system?

# data[].attributes.attachment_link.description
Explore the impact of AI on the education system. Valuable insights into the role of AI in education and how it can shape the future of learning.

# data[].attributes.headline
No todo vale con la Inteligencia Artificial en la educación

# data[].attributes.subject
No todo vale con la Inteligencia Artificial en la educación

# data[].attributes.body
Hola a todos y a todas. Os dejo un artículo de opinión publicado la web educativa Educación 3.0. En el mismo, una docente reflexiona sobre el uso de la IA en el entorno educativo y abre el debate sobre ¿permitir o prohibir?, que creo que es la disyuntiva en que muchos de los docentes nos encontramos. Para ella, esto no tiene que ser una decisión universal, sino que dependerá del tipo de enseñanza que se imparta. Por otro lado, insta al profesorado a que demos a nuestro alumnado las herramientas suficientes para profundizar en la IA y, citando textualmente, “descubrir lo que hay debajo”. Así, los estudiantes entrenarán su espíritu crítico y podrán tomar el control de la máquina y no al revés. Finalmente, concluye de la misma manera en la que comienza el artículo: mientras esperamos a que llegue la legislación que regule el uso de la IA, somos los docentes quienes tenemos que poner límite y normas en cuanto a su uso en el aula y es importante que estos límites estén claros.

Marian Moreno Moral

# data[].attributes.attachment_link.title
No todo vale con la Inteligencia Artificial en la educación

# data[].attributes.attachment_link.description
Mientras no haya una legislación sobre el uso de la inteligencia artificial en la educación, son los docentes los que deben establecer límites y poner normas en sus clases. Así lo cree Carmen Navarro, docente de Secundaria, que reflexiona en este artículo sobre las consecuencias de no hacerlo.

# data[].attributes.headline
La inteligencia artificial y la igualdad de género

# data[].attributes.subject
La inteligencia artificial y la igualdad de género

# data[].attributes.body
El video aborda cómo la inteligencia artificial (IA) puede influir en la igualdad de género. La iniciativa de la UNESCO, llamada "Women4Ethical AI", busca fomentar la inclusión de las mujeres en el desarrollo de tecnologías de IA y asegurar que estas tecnologías sean equitativas y no perpetúen estereotipos de género.

Se destacan varios puntos clave:

1. Desigualdad en el sector tecnológico: Hay una significativa brecha de género en la industria tecnológica, con una baja representación de mujeres en roles de desarrollo de IA. Esta falta de diversidad puede llevar a sesgos en los algoritmos y aplicaciones de IA, perpetuando a estereotipos de género y discriminación.

2. Importancia de la educación y capacitación: la UNESCO subraya la necesidad de educar y capacitar a mujeres y niñas en habilidades digitales y tecnológicas. Esto no solo les permite acceder a mejores oportunidades laborales, sino que también asegura que sus perspectivas estén representadas en el desarrollo de nuevas tecnologías.

3. Recomendaciones de la UNESCO: se proponen varias medidas para combatir los sesgos de género en la IA, tales como:

desarrollar asistentes digitales con un género neutro;

programar estos asistentes para desalentar el uso de lenguaje abusivo;

aumentar la participación de mujeres en equipos técnicos y de liderazgo.

4. Impacto de los asistentes digitales: se menciona cómo asistentes virtuales como Siri y Alexa, que tradicionalmente tienen voces femeninas y actitudes sumisas, pueden reforzar estereotipos de género negativos. La UNESCO recomienda cambiar esta práctica para evitar perpetuar la idea de que las mujeres deben ser serviles.

Este enfoque busca no solo crear una tecnología más justa y equitativa, sino también cambiar las percepciones sociales sobre el género y la tecnología.

Cristina Yeguas Díaz

# data[].attributes.attachment_link.title
Yuko Harama, Japanese Association for the Advancement of Science (JAAS) - #W4EAI Expert Platform

# data[].attributes.headline
¿Cómo afectará la inteligencia artificial (IA) a los niños/as?

# data[].attributes.subject
¿Cómo afectará la inteligencia artificial (IA) a los niños/as?

# data[].attributes.body
Este artículo es bastante interesante para hacernos reflexionar sobre los beneficios y peligros de la utilización de la Inteligencia Artificial para nuestros niños.

Es curioso que los expertos de salud infantil de UNICEF ya advierten de que los niños y niñas de todo el mundo utilizan la IA casi a diario. La mayoría de los juguetes, juegos y plataformas de Internet interactivos diseñados para niños/as dependen de la tecnología de IA.

Y, aunque hay muchos beneficios (no todo es negativo), es necesario que los padres y madres protejan a sus hijos/as de los riesgos de la IA, mediante el diálogo, enseñándoles a gestionar la privacidad, probando la IA juntos, fomentando la curiosidad y el pensamiento crítico y hablando sobre el plagio.

Rafael Ortega Simarro

# data[].attributes.attachment_link.readable_text
La inteligencia artificial (IA) está cambiando rápidamente la forma en que trabajamos, jugamos y nos comunicamos. Si bien la IA tiene potencial para ayudar a resolver problemas complejos, es probable que también haya escuchado serias preocupaciones al respecto y, especialmente, sobre las formas en que la IA podría cambiar las vidas de niños y adolescentes.

Con tantos puntos de vista, ¿cómo puede entender la IA y su posible impacto en su familia? Comencemos por ver cómo funciona la IA y qué cuestiones deben considerar los padres y las familias a medida que evoluciona la tecnología.

¿Qué es exactamente la inteligencia artificial? ¿Cómo funciona la IA?

La IA se basa en el cerebro humano: cómo recopilamos hechos, descripciones, comentarios, imágenes y mucho más y le damos sentido a todo para completar una tarea específica. La diferencia es que la IA reúne los datos de entrada, los clasifica y los hace accesibles de inmediato. Sin embargo, a diferencia del conocimiento humano, no tiene la capacidad de conectar nueva información con todas nuestras otras experiencias de vida.

La tecnología de IA ha estado en desarrollo desde mediados de la década de 1950. Sin embargo, gracias a los avances recientes, las herramientas basadas en IA se están convirtiendo rápidamente en parte de nuestra vida cotidiana. Por ejemplo:

Cuando llama al servicio de atención al cliente, la IA podría ayudarlo a encontrar respuestas a sus preguntas

Cuando explora noticias internacionales, es posible que la IA haya traducido las palabras que escucha o lee a su idioma de preferencia

En el consultorio de su médico, un programa de reconocimiento de voz impulsado por IA podría ayudar al equipo médico a tomar notas y actualizar su historia clínica

A mayor escala, la IA se utiliza para estudiar y mejorar el flujo de tráfico en áreas urbanas, por ejemplo, y analizar los riesgos para la salud en grandes poblaciones

¿Qué pasa con la IA que utilizan algunos niños para hacer sus tareas?

La IA generativa es una tecnología que crea contenidos que en el pasado solo podían provenir de seres humanos. Por ejemplo, en lugar de sentarse a redactar un informe, un escritor podría utilizar ChatGPT para generar datos relevantes y sugerencias de redacción. Un artista podría crear lo que parece una fotografía o un dibujo original ingresando una breve descripción en un programa impulsado por IA.

Es fácil ver por qué algunos niños utilizan la IA como ayuda con las tareas escolares. Pueden encontrar datos y buscar entre millones de gráficos e imágenes para aprender más sobre un tema. La IA también impulsa programas gramaticales que pueden verificar su trabajo para corregir errores de escritura. Sin embargo, las escuelas tienen reglas sobre cómo se puede utilizar la IA para las tareas y la escritura, por lo que es importante consultar con los maestros. Los adolescentes también deben aprender a ser honestos acerca de cuándo utilizaron la IA en sus tareas.

La IA está a nuestro alrededor (y nosotros la alimentamos)

Incluso si sus hijos no utilizan la IA para algunas partes de sus tareas escolares, ellos (y usted) entran en contacto con la IA todos los días. Sus hijos, y su familia en su conjunto, tienen una huella digital (en inglés). Esta huella podría estar compuesta por cada búsqueda, compra, descarga o sesión de visualización y escucha en línea que realice. Si utiliza un altavoz inteligente impulsado por inteligencia artificial para obtener respuestas a preguntas sobre el clima, resultados deportivos y más, está suministrando aún más datos a esta huella colectiva.

¿Cómo están aprovechando los niños la IA?

Como han señalado (en inglés) los expertos en salud infantil de UNICEF, los niños de todo el mundo utilizan la IA casi a diario. La mayoría de los juguetes, juegos y plataformas de Internet interactivos diseñados para niños dependen de la tecnología de IA. Aunque la IA está avanzando más rápido de lo que se esperaba, la mayoría de las naciones no han considerado cómo afectará la IA al bienestar social y emocional de los niños.

Se necesita mucha más investigación, pero los primeros estudios sobre la IA y los niños señalan varias preocupaciones:

Los niños pequeños podrían compartir información personal con plataformas de IA. Los estudios muestran que los niños a menudo conversan con altavoces inteligentes, cuentan historias personales y revelan detalles que los adultos podrían considerar privados.

Podrían asumir que las plataformas de IA se parecen mucho a las personas. En un estudio se descubrió que los niños de entre 3 y 6 años creían que los altavoces inteligentes tenían pensamientos, sentimientos y habilidades sociales. Solo unos pocos niños asumieron que los altavoces eran en realidad seres humanos. Esto podría afectar la forma en que los niños aprenden a interactuar con los demás.

Es posible que confíen más en la IA que en los seres humanos. En otro estudio se descubrió que los niños pequeños pensaban que los altavoces inteligentes eran más confiables que las personas cuando se trataba de responder preguntas basadas en hechos, como "¿Quién fue el primer presidente de Estados Unidos en conducir un automóvil?".

Muchos adolescentes utilizan la IA a diario. Los adolescentes son grandes admiradores de la IA generativa, que los ayuda a escribir ensayos e informes y a crear imágenes y videos para compartir en redes sociales (entre cientos de otros usos posibles). Sin embargo, solo 1 de cada 4 padres (en inglés) cuyos hijos adolescentes usan IA son conscientes de que lo están haciendo, según evidenció una encuesta reciente.

¿Cuáles son los beneficios de la IA para los niños y las familias?

Hay muchas formas en que la tecnología de inteligencia artificial puede ayudar a los niños a aprender y crecer.

Es una herramienta valiosa para el aprendizaje. La IA se puede utilizar para adaptar lecciones y experiencias de aprendizaje a las necesidades individuales de niños pequeños y adolescentes. Puede ayudar a los educadores y padres a encontrar formas de enriquecer el aprendizaje de niños de todas las capacidades en diferentes etapas de crecimiento y desarrollo. Y si bien no es un buen sustituto de la conversación en vivo, puede ayudar a los niños a mejorar sus habilidades lingüísticas e incluso a aprender nuevos idiomas.

Puede fomentar la creatividad. Vivimos en un mundo visual, por lo que los niños necesitan formas de expresar sus ideas a través de fotografías, imágenes, gráficos y más. La IA no solo es valiosa para los artistas en ciernes, sino también para los niños que desean crear visualizaciones de datos, gráficos, dibujos animados simples y otros elementos visuales.

Puede motivar e involucrar a los niños de nuevas maneras. La IA puede ser interactiva y divertida para los niños, al ofrecer nuevas formas de disfrutar y explorar su mundo. Para algunos niños, esta podría ser una experiencia que les cambie la vida y les abra nuevas puertas, mejore el rendimiento escolar y los ayude a prepararse para los desafíos de la vida adulta.

¿Cuáles son los peligros potenciales de la IA para nuestros hijos?

A pesar de todas las promesas que encierran, las plataformas de IA también pueden dañar a los niños y las familias.

Pueden difundir odio, prejuicios y estereotipos. Debido a que la IA "aprende" de todo lo que encuentra en Internet, las plataformas de IA reflejan los mismos prejuicios que amenazan con dividirnos y alienarnos. Estudios exhaustivos muestran que el contenido generado por IA promueve estereotipos y falsedades. Los adultos deben estar preparados para hablar con los niños sobre lo que ven en línea y cómo podría reforzar creencias y acciones negativas.

Pueden erosionar la privacidad. La IA recopila una enorme cantidad de datos sobre nosotros, a menudo sin que lo sepamos. Por ejemplo, se descubrió que un juguete grababa conversaciones entre padres, niños y cualquier otra persona cercana, con la capacidad de transmitir datos de estas conversaciones a terceros. Es difícil mantenerse al día con los informes sobre juguetes y dispositivos que podrían violar la privacidad de su familia, pero es posible que los padres quieran evitar los juguetes interactivos que prometen "hablar" con los niños.

Pueden inundar a los niños con mensajes comerciales. La IA nos rastrea en Internet, toma nota de lo que nos gusta y nos brinda más de lo mismo. El historial de búsqueda de su hijo podría convertirlo en el objetivo de incesantes campañas publicitarias que usted preferiría que no viera.

Pueden utilizarse para el acoso y el fraude. La IA generativa se puede utilizar para crear imágenes falsas o distorsionadas de su niño o adolescente, o de alguien que conoce. Un ejemplo: los desnudos falsos (en inglés) que se han utilizado para atacar y avergonzar a muchos adolescentes. Los ultrafalsos (deepfakes-en inglés) y la clonación de voz (en inglés) se pueden utilizar para amenazar a los niños para que realicen acciones que normalmente nunca considerarían, como enviar dinero o brindar información privada a otros. Vea más en: ¿Qué deben saber los adolescentes sobre la "sextorsión" y los depredadores en línea?

¿Los legisladores están tomando medidas para protegernos?

Está claro que la IA llegó para quedarse, pero en Estados Unidos la legislación no ha seguido el ritmo del crecimiento tecnológico.

La Ley de Protección de la Privacidad en Línea para Niños(COPPA, por sus siglas en inglés) protege a los niños de 13 años o menos al restringir el acceso y el uso de la información personal sobre ellos que se puede encontrar en línea. Sin embargo, desde su aprobación a finales de la década de 1990, la ley COPPA ha sido infringida sistemáticamente por empresas de medios, fabricantes y otros. Además, no está claro si ChatGPT y otras plataformas generativas cumplen con las regulaciones de COPPA.

La Ley de Seguridad Infantil en Línea (Kids Online Safety Act), introducida por primera vez en 2021 y aún en proceso de aprobación en el Congreso, requeriría que las plataformas de redes sociales protejan los datos de los niños menores de edad. Sin embargo, esta legislación no aborda los datos que los proveedores de servicios web, los servicios de correo electrónico y las instituciones educativas pueden recopilar sobre nuestros niños.

Un decreto ejecutivo (en inglés) sobre la IA podría servir como guía para leyes futuras, pero aún no existen regulaciones que detallen lo que las organizaciones pueden y no pueden hacer con la tecnología de IA.

¿Qué puedo hacer para proteger a mi hijo de los riesgos de la IA?

La IA es un objetivo en movimiento, por lo que podría resultarle difícil establecer pautas saludables para su hijo o adolescente. Aquí hay algunas sugerencias sensatas para que las considere y las comparta con maestros, entrenadores, vecinos y líderes de la comunidad que trabajan con su hijo.

Hable con sus hijos sobre la IA. Adapte lo que diga a la edad y al nivel de comprensión de su hijo. No debe asustar a un niño pequeño, pero puede hacerle saber que el altavoz inteligente de su cocina no es lo mismo que un amigo de confianza. Hable sobre las diferencias entre las personas y los asistentes digitales, o entre las conversaciones en vivo con amigos y familiares y los chats en las redes sociales. Provea ejemplos de su propia vida para que su hijo tenga una idea de cómo usted practica la seguridad en línea.

Con los adolescentes, apunte a un debate abierto sobre la privacidad, los prejuicios, el acoso y otras cuestiones de seguridad en línea. No predique ni intente cubrir todos los aspectos de la IA al mismo tiempo. Pídales su opinión y mantenga la mente abierta. Esto puede dar lugar a debates fructíferos que los ayudarán a aprender juntos.

Enseñe a los niños mayores cómo gestionar la privacidad en línea. Explique cómo pueden administrar cookies, borrar historiales de navegación y bloquear a los usuarios de redes sociales o a los anunciantes cuyos mensajes eligen no ver. Haga hincapié en que esto es algo que todos los usuarios en línea deberían saber y ofrezca algunos ejemplos de cómo usted protege su propia privacidad.

Prueben la IA juntos. Considere probar una aplicación basada en inteligencia artificial como ChatGPT o Facetune junto con sus hijos. Esto puede darle la oportunidad de analizar cómo funciona y señalar los problemas que le preocupen. Common Sense Media ofrece reseñas (en inglés) que lo ayudarán a elegir plataformas para realizar pruebas para experimentar en familia.

Fomente la curiosidad y el pensamiento crítico. Desafíe a sus hijos a buscar signos de prejuicios en el contenido en línea. Por ejemplo, puede crear un juego para detectar cosas que parecen reales frente a aquellas que parecen falsas. Pregunte a los niños de dónde creen que provienen la información o las imágenes. La persona, la empresa o el grupo que los comparte, ¿tiene un objetivo en mente? ¿Qué razones tenemos para confiar (o desconfiar) del remitente?

Hable sobre el plagio. En una época en la que cualquier persona puede cortar y pegar contenido y hacerlo pasar como propio, los niños deben comprender el concepto de trabajo original. Explique cómo pueden utilizar la información en línea como punto de partida para sus propios pensamientos. Asegúrese de que comprendan que copiar o presentar las palabras, imágenes e ideas de otros sin darles crédito está mal (y a menudo es ilegal). Continúe la conversación a medida que sus hijos crezcan.

El futuro de la IA y la protección de los niños

Nos queda un largo camino por recorrer para aprovechar los beneficios de la IA y al mismo tiempo proteger a nuestros hijos de los riesgos que podría representar. Los resguardos que necesitamos deberían reflejar el tremendo poder de la IA para dar forma a nuestra vida cotidiana.

El diálogo continuo debería reunir a las familias con las escuelas, los proveedores de atención médica, las organizaciones deportivas y artísticas y otras organizaciones comunitarias, para que podamos ayudar a los niños a beneficiarse de la IA y minimizar sus posibles daños.

Más información

Tiffany Munzer, MD, FAAP es pediatra del desarrollo conductual e investigadora de medios digitales en University of Michigan. La Dra. Munzer obtuvo su título en Medicina en University of Arizona College of Medicine y completó una residencia en Pediatría y una especialización en University of Michigan. Es miembro del comité ejecutivo del Consejo de Medios y Comunicaciones de la AAP. Su trabajo más reciente examina cómo la pandemia ha dado forma a las experiencias de las familias en los medios digitales.

American Academy of Pediatrics Council on Communications and Media (Copyright © 2024)

# data[].attributes.attachment_link.keywords[]
inteligencia artificial; ia; ai; chatgpt; inteligencia artificial generativa; deep fake; altavoces inteligentes; desnudo falso ia; sextorsión

# data[].attributes.attachment_link.title
¿Cómo afectará la inteligencia artificial (IA) a los niños?

# data[].attributes.attachment_link.description
La inteligencia artificial (IA) está cambiando rápidamente la forma en que trabajamos, jugamos y nos comunicamos. ¿Cómo se puede entender la IA y su posible impacto en su familia? Aquí encontrará consejos útiles sobre lo que los padres y las familias pueden necesitar considerar a medida que evoluciona la tecnología.

# data[].attributes.headline
El uso de chatbots en la clase de idiomas

# data[].attributes.subject
El uso de chatbots en la clase de idiomas

# data[].attributes.attachment_link.title
El uso de chatbots en la clase de idiomas