jason christian kwik /2802505645

farcello tristanto wijaya /2802479810

yonathan budi raharta widodo / 2802499554

A mining company relies on Al to decide which areas are safe for excavation. The system miscalculates, leading to environmental damage in a conservation zone.

QUESTION:

1.what are the main ethical issues in this case

2.who are the affected parties(stakeholder)?

3. what are the potential sosial,legal ,and business risk

4.what ethical solutions can be implented

ANSWER:

To determine which locations are safe for excavation, a mining corporation uses artificial intelligence. When the system makes a mistake, the environment in a conservation zone is harmed. Your four questions are broken down as follows:

1. Key Ethical Concerns • Overuse of AI without adequate human supervision. • The damage that mining in a conservation zone does to the environment.

• Accountability: Which party the business, the AI creators, or the authorities is in charge of the error?

• Failure to ensure risk assessment, testing, and data correctness prior to implementation.

• A failure to uphold social obligations to safeguard communities and ecosystems.

2. Affected Individuals (Partners)

• Local populations, which rely on the environment. Conservationists and environmental groups.

• The mining corporation (owners, staff, and management).

• The government and regulators (in charge of protecting the environment).

• Future generations (harm to the environment over time). • Developers and tech companies of AI (whose system failed).

3. Possible Legal, Social, and Commercial Hazards

• Social risks include reputational harm, public outcry, and

a decline in community trust.

• Legal Risks: lawsuits, fines from the government, more stringent rules, and potential business closure.

• Business risks include monetary losses, investor exodus, rising insurance premiums, and harm to one's brand that results in less market opportunities.

4. Moral Remedies

• Human in the loop oversight: In situations with significant stakes, AI should support human decision making rather than take its place.

• Transparent accountability: Clearly defined guidelines for who bears responsibility for AI mistakes.

• Tougher environmental protections: independent assessment prior to authorisation of excavation.

• Frequent audits of AI systems to ensure accuracy, bias, and errors are checked. Participating in decision-making with local stakeholders is known as community engagement.

• Sustainability commitment: Use mining methods that put social and environmental responsibility first.

‎2.- Siswa : karena dengan adanya Ai untuk mempridiksi kinerja siswa, maka siswa dengan nilai rendah akan secara otomatis direkomendasikan untuk jalur kejuruan

‎- Pengajar : pengajar tidak perlu susah-susah untuk mempridiksi kinerja siswa dengan adanya Ai ini

‎- Kepala sekolah : dapat mengetahui kinerja dari siswa-siswa disekolahnya dengan menggunakan Ai

‎3.

‎-AI harus dipakai untuk membantu siswa belajar lebih baik dengan cara yang sesuai, seperti tutor tambahan, bukan langsung menentukan jalur vokasi.
‎
‎-Buat Aturan Jelas tentang Penggunaan AI 
‎Sekolah harus punya aturan dan pengawasan terkait penggunaan AI, termasuk melindungi data pribadi siswa dan memastikan keadilan.
‎
‎-Keputusan Akhir Tetap Diambil Guru 

‎AI hanya sebagai alat bantu. Guru atau pembimbing harus tetap mengevaluasi hasil AI dan mempertimbangkan kondisi siswa sebelum memutuskan jurusan.

‎4. - Jelas dan terbuka – sekolah harus menjelaskan bagaimana AI menilai dan kenapa bisa keluar keputusan itu.

‎- Tetap ada peran guru – keputusan akhir harus tetap dilihat dan dipertimbangkan guru atau konselor, bukan cuma AI.

‎- Hindari ketidakadilan –pastikan AI tidak memihak ke ekonomi, gender, atau latar belakang siswa.

Nathan Andrew Herijanto - 2802443451

Arinda Nuansa Ayu - 2802491551

Najwa Nanda Aulia - 2802493140

Jefferson Winoto - 2802405951

1. What are the main ethical issues in this case?

-masalah privasi, wajah siswa termasuk hal yang sensitif.

-dampak psikologisnya siswa dapat stress atau merasa tertuduh.

-diskriminasi karena ekspresi tiap wajah berbeda, sehingga membuat hasil tidak adil.

2. Who are the affected parties (stakeholders)?

siswa yang dirugikan dan guru dapat salah menilai karena terlalu percaya hasil AI, lalu reputasi sekolah dapat jatuh.

3. What are the potential social, legal, and business risks?

social: siswa dapat stress,traumatis dan tingkat kepercayaan kepada sekolah menghilang.

legal: pelanggaran privasi dan aturan perlindungan data.

business: dapat dituntut dihukum dan kehilangan reputasi serta kerugian terhadap perusahaan

4. What ethical solutions can be implemented?

menjelaskan cara kerja AI kepada siswa dan ortu siswa, lalu meminta persetujuan untuk menggunakan data wajah, serta penggunaan AI harus didampingi manusia, sebelum mengimplementasikan AI pastikan dapat digunakan secara akurat yang mendukung cara belajar dan merugikan siapa pun dalam bentuk negatif.

1)     Lendra Mahesa Firmansyah - 2802550806

2)     Christian Otniel Simatupang - 2802443445

3)     Nathanael Putra Candra - 2802479930

4)     Erlinda Chong - 2802402256

1. The AI ​​system discriminates against people from low-income backgrounds, despite their strong financial histories. Loan eligibility should be assessed based on objective financial ability, not economic background. The AI ​​decision-making process likely leaves customers unaware of why they were rejected.

2. Affected Parties (Stakeholders): Loan applicants, particularly low-income groups, may be unfairly denied. Banks face risks to reputation, customer trust, and legal consequences. Regulators and governments are responsible for enforcing fairness and anti-discrimination laws. Society as a whole could experience increased inequality and reduced economic mobility. Meanwhile, AI developers and vendors may be held accountable for creating biased systems.

3. 3 Potential Social, Legal, and Business Risks

Increased systemic inequality, public distrust of financial institutions, and social tensions also pose legal risks, including potential lawsuits, fines, or sanctions due to discrimination in violation of fair lending laws and regulations. Business risks include damaged brand reputation, decreased customer trust, reduced market share, and potential sanctions from regulators.

4. In our opinion, the ethical solution that banks can do is first, routinely audit the AI system so that there is no bias that harms customers from certain areas. Second, from the beginning AI design must focus on financial track record, not home address. Then, the final decision should still have human intervention, so don’t just rely on machines. In addition, the bank also needs to be transparent with customers, explaining the reason for the rejection so that it is fairer and understandable. Finally, all of this must be in accordance with the applicable law, especially regarding the prohibition of discrimination in financial services.

Gabriel Matthew Santoso 2802477534

Ethan Steven Liang

2802480112

Question:

1. What are the main ethical issues in this case?

2. Who are the affected parties (stakeholders)?

3. What are the potential social, legal, and business risks?

4. What ethical solutions can be implemented?

Answer :

1. Isu etis utama dalam kasus ini:

- AI tidak adil (bias algoritma): Sistem AI menilai pekerja dengan cara yang tidak seimbang, misalnya karena faktor asal negara.

- Diskriminasi: Pekerja dari negara berkembang dirugikan, sementara pekerja dari negara maju lebih diuntungkan.

- Kurang transparan: Freelancer tidak tahu bagaimana cara kerja sistem penilaian.

- Kurang tanggung jawab sosial: Platform tidak memastikan semua pekerja dinilai secara adil.

2. Pihak yang terdampak (stakeholders):

- Freelancer dari negara berkembang: Rating rendah, sulit dapat pekerjaan.

- Freelancer dari negara maju: Bisa diuntungkan secara tidak adil.

- Klien/pemberi kerja: Bisa salah menilai kualitas freelancer karena rating yang bias.

- Platform freelance: Bisa kehilangan reputasi, kepercayaan pengguna, dan berhadapan dengan masalah hukum.

- Masyarakat luas: Akses kerja tidak merata dan jurang ekonomi antarnegara makin lebar.

3. Risiko sosial, hukum, dan bisnis:

Sosial:

- Memperbesar kesenjangan antara negara maju dan berkembang.

- Menurunkan kepercayaan orang pada teknologi AI.

Hukum:

- Bisa melanggar aturan anti-diskriminasi dan perlindungan data.

- Freelancer yang dirugikan bisa menuntut secara hukum.

Bisnis:

- Nama baik platform bisa rusak dan ditinggalkan pengguna.

- Investor atau klien bisa berhenti bekerja sama karena platform dianggap tidak etis.

- Tenaga kerja di platform jadi tidak beragam.

4. Platform freelance perlu memastikan sistem AI transparan dan adil, memberi freelancer hak untuk mengajukan banding jika dirugikan. Audit independen harus rutin dilakukan, dan AI dibangun dengan data yang beragam agar penilaian lebih objektif serta memberi peluang yang sama bagi semua pekerja, termasuk dari negara berkembang.

meilani anggun w.w l2802552212

cahaya putri kamila l2802552351

sheyla najwa A. l2802551986

widya nur kholilah l2802499586

case ”AI-powered cctv is used to detect criminals. however it frequently misidentifies people from minority ethnic groups, leadings to wrongful arrests”

1. main ethical:

   •bias dan diskriminasi ai: system lebih sering salah meng identifikasi etis minoritas(ketidakadilan)

   •pelanggaran ham: penangkapan orang tidak berasalah karena si

2. who are affected parties:

   •masyarakat umum terutama kelompok minoritas

   •tersangka yang salah tangkap

   •polisi

   •bisnis pembuat cctv

3. potential social, legal, and business risk:

   (social)

   •diskriminasi

   •ketidakadilan

   •rusaknya kepercayaan masyarakat

   (legal)

   •pelanggaran ham

   •tuntutan hukum karena salah tangkap

   (bisnis)

   •reputasi buruk

   •kehilangan kepercayaan pelanggan dan investor

4. ethical solutions:

   •human oversight:penangkapan perlu verifikasi manusia

   •perlu nya aturan pemerintah terkait penangkapan berbasis ai agar tidal salah tangkap

   •perbaiki basis data agar tidak menyerang etnis tertentu

   •pengujian rutin apakah kelompok sering salah ke kelompok tertentu

Sebuah perusahaan E-Commerce menggunakan chatbot AI. Chatbot tersebut memberikan harga promosi yang salah pelanggan. Sehingga menyebabkan keluhan dan hilangnya kepercayaan.

1. Masalah etika dalam kasus ini

   Chatbot memberikan harga promosi yang salah sehingga menyesatkan dan kepercayaan pelanggan hilang

2. Siapa yang terdampak

   a. pelanggan : pelanggan merasa dirugikan dan kecewa karena diberikan harga yang salah

   b. perusahaan : perusahaan kehilangan reputasi dan potensi turunnya pendapatan

   c. mitra bisnis : bisa turun penjualan

   d. karyawan : customer service harus menangani keluhan dari pelanggan

3. Potensi Resiko :

   a. Resiko sosial : Hilangnya kepercayaan publik terhadap Chatbot AI dan perusahaan

   b. Resiko hukum : Potensi pelanggaran hukum perlindungan konsumen (Iklan Palsu)

   c. Resiko bisnis : Reputasi menurun, Kehilangan pelanggan, dan biaya tambahan untuk

   kompensasi

4. Solusi Etis :

   a. Pengawasan manusia : Libatkan tim manusia untuk memeriksa promosi penting

   b. Monitoring dan koreksi : Audit rutin Chatbot dan perbaiki segera jika ada kesalahan

   c. Kebijakan : Tetapkan siapa yang bertanggung jawab atas kesalahan AI

AI assists doctors in diognising patient. the algorithim often misdiagnoses children because the training data mainly consist of adult cases

Felicia Naomi Sutantio - 2802402350

Aurelia Baptista - 2802402874

Matheuw Rafael Villareal - 2802480200

Rafael Renjiro Audric Sanjoyo - 2802474835

1. Isu Etika Utama

Dalam kasus AI yang salah mendiagnosis pasien anak karena data pelatihan yang tidak representatif, isu etika utama adalah ketidakadilan algoritmik dan bias data. Algoritma yang dilatih dengan data orang dewasa gagal mengenali pola penyakit pada anak, yang dapat mengakibatkan diagnosis yang salah. Hal ini melanggar prinsip keadilan dalam sistem kesehatan, di mana setiap pasien, tanpa memandang usia, berhak atas diagnosis yang akurat. Selain itu, ada isu akuntabilitas. Siapa yang bertanggung jawab jika terjadi kesalahan diagnosis akibat penggunaan AI: pengembang algoritma, produsen perangkat lunak, atau dokter yang menggunakannya

2. Pihak yang Terdampak (Pemangku Kepentingan)

Berikut adalah pihak-pihak utama yang terdampak:

Pasien Anak-Anak: Mereka adalah pihak yang paling rentan dan dirugikan karena menerima diagnosis yang salah, yang dapat menunda atau mengganggu pengobatan profesional

Orang Tua Pasien: Mereka menanggung beban emosional dan finansial dari diagnosis yang salah dan harus membuat keputusan penting berdasarkan informasi yang salah.

Dokter: Mereka menghadapi dilema etika dan profesional. Ketergantungan pada AI yang salah dapat merusak reputasi mereka dan menimbulkan pertanyaan tentang tanggung jawab profesional.

3. Risiko sosial: Masyarakat dapat kehilangan kepercayaan pada teknologi AI, terutama di bidang kesehatan. Kesalahan diagnosis yang fatal dapat memicu protes dan tuntutan publik untuk regulasi yang lebih ketat.

Risiko legal: Perusahaan teknologi, pengembang, dan rumah sakit dapat menghadapi tuntutan hukum atas kelalaian profesional, kelalaian produk, dan malpraktik medis. Hal ini dapat berujung pada denda besar atau hukuman penjara.

Risiko bisnis: Perusahaan yang mengembangkan AI berisiko mengalami kerugian finansial akibat penarikan produk, penurunan penjualan, dan reputasi yang rusak. Institusi kesehatan juga dapat kehilangan pasien dan menghadapi masalah keuangan

4. Penggunaan AI dalam medis perlu dilengkapi dengan validasi data yang lebih representatif, termasuk data anak, agar hasil diagnosis lebih akurat. AI sebaiknya berperan sebagai alat bantu, sementara keputusan akhir tetap pada dokter. Selain itu, diperlukan transparansi mengenai keterbatasan AI, pengawasan berkala, regulasi yang jelas, serta pelatihan bagi tenaga medis agar teknologi ini dapat digunakan secara etis dan bertanggung jawab. Pada akhirnya AI hanya seharusnya digunakan sebagai pendukung dokter, bukan penggantinya.

Jessica Setiawinata-2802409331

Felicia Agustine Halim-2802541676

Jessica Sally Nathaniela-2802530905

Nijma Fuaiyida Hanum-2802520116

Case:

A clothing brand uses AI deepfakes of celebrities to promote products without permission. The public reacts negatively, accusing the brand of violating privacy rights.

1. What are the main ethical issues in this case

• Pelanggaran privasi, dimana brand menggunakan foto selebritas untuk mempromosikan produk tanpa menggunakan izin.

• Exploitation profit, dimana brand tersebut mendapatkan profit dari pengunaan foto celebritas tanpa izin dan tidak memberikan kompensasi kepada pihak celebritasnya

2. Who are the affected parties(stakeholders)

• selebritas: dirugikan karena hak privasinya dilanggar.

• perusahaan/brand: bisa terkena hukum hak cipta.

• konsumen: termakan iklan yang palsu.

3. What are the potential social, legal, and business risks

• Dari segi sosial, brand beresiko dalam menghancurkan kepercayaan publik karena menggunakan foto tanpa izin, mementingkan kepentingan pribadi brand.

• Dari segi legal atau hukum, brand melanggar Pasal 12 Undang-undang No. 28 tahun 2014 tentang hak cipta dan dapat dikenakan sanksi pidana sesuai Pasal 115 UU Hak Cipta berupa pidana denda paling panyak Rp500.000.000,00 (lima ratus juta Rupiah).

• Dari segi bisnis sendiri, hal ini dapat mengakibatkan kerugian pada brand tersebut. Brand akan dicap tidak etis dan terancam boykot oleh publik. Jika dilaporkan, maka akan mengalami profit loss akibat denda yang perlu ditanggung dari hukum tersebut.

4. What ethical solutions can be implemented

Solusi etis yang dapat diterpakan brand atas permasalahan tersebut:

• brand segera mengakui kesalahannya

• memberikan kompensasi pada selebritas tersebut

• meninjau ulang kebijakan privasi sebelum melakukan posting produk

• untuk memulihkan kepercayaan brand dapat melakukan kampanye edukasi terkait keamanan data.

Hanafazia Kalila H 2802547710

Stefanie Thalia N 2802543196

Villeo Christian D 2802541410

Case: A social media platform uses Al to filter harmful content. Unfortunately, many environmental activists' posts are flagged and removed as "radical."

1. AI dapat melakukan kesalahan dan kurang precise karna tdk memahami social issues

2. ⁠Environmental activists, general user, platform reputation, AI developer

3. ⁠Lost of trust, misinformation, potential violation of freedom speech

4. ⁠Audit and improve the AI system, and implement human oversight

Nicholas Frenlie Gunawan 2802459336

Vesya Calosa Franno Ria 2802417503

Shania Angelina Muljadi 2802409395

Case:

The military develops Al drones that can attack targets without human control. This creates the risk of hitting the wrong targets and harming civilians.

Questions:

1. What are the main ethical issues in this case?

Masalah etis utama dari case ini adalah pada tanggung jawab jika drone AI menyerang salah target, risiko korban sipil, serta pertanyaan terkait moral apakah pantas mesin untuk memutuskan hidup-mati manusia terdapat juga bahaya bias data, kesalahan teknis dan potensi perlombaan senjata yang membahayakan dunia.

2. Who are the affected parties (stakeholders)?

- Warga sipil menjadi pihak yang paling beresiko menjadi korban

-Militer menjadi pihak yang mengoperasikan dan memiliki tanggung jawab atas penggunaan.

- Pengembang teknologi AI menjadi pihak yang menciptakan sistem, ikut menanggung konsekuensi.

- Pemerintah yang menjadi pihak yang menentukan strategi dan aturan penggunaannya

3. What are the potential social, legal, and business risks?

- Sosial: Dapat menimbulkan trauma dan ketakutan bagi masyarakat. Dapat memicu konflik yang lebih luas akibat dari kesalahan serangan serta masyarakat dapat kehilangan kepercayaan terhadap

- Hukum: Dapat Melanggar hukum humaniter internasional, sulit menetapkan tanggung jawab hukum atas kejahatan perang oleh mesin dan tuntutan dari organisasi HAM atau negara lain.

- Bisnis: Perusahaan pembuat AI akan mengalami kerugian besar serta reputasi buruk yang akhirnya dapat beresiko boikot, diberikan sanksi internasional hingga dilarang beroprasi. Dapat menambah biaya tambahan untuk sistem pengembangan ulang agar lebih aman.

4. What ethical solutions can be implemented

- Regulasi dan standart internasional, mendorong perjanjian global yang melarang atau mengontrol penggunaaan senjata AI otonom

- Kebijakan akuntabilitas jelas, siapapun yang mengembangkan atau menggunakan sistem ini harus bertanggung jawab secara hukum atas konsekuensi nya.

- ⁠Pendidikan dan kesadaran dalam teknologi, developer dan militer harus dilatih terkait etika dan penggunaan AI ketika terjadi konflik.

- Setiap keputusan akhir soal serangan tetap harus melibatkan manusia secara langsung, bukan AI sepenuhnya.