Đồng Tâm Cứu Nước

• Khi kẻ xấu dùng AI giả dạng, đi lừa đảo
• Bầu cử tổng thống Mỹ: Bất an trước công nghệ ma quái A.I.

Nhóm nghiên cứu Trí Tuệ Nhân Tạo – Nguyên Lee – 27 tháng 2, 2024

(minh họa: Growtika/Unsplash) 

Khi công nghệ và AI trở thành một phần của xã hội loài người, cuộc sống hàng ngày của chúng ta chắc chắn cũng sẽ bị ảnh hưởng.

Điều đó tốt hay xấu là do mỗi cá nhân quyết định. Đối với ngành giáo dục, AI đang cách mạng hóa cách học sinh học tập ở các trường phổ thông, cao đẳng và đại học và có vẻ như lối học truyền thống sẽ dần bị thay đổi trong tương lai.

Tuy nhiên, giữa các thuật toán và phân tích dữ liệu, điều quan trọng là phải nắm lấy khía cạnh con người của giáo dục. AI có khả năng nâng cao chất lượng giáo dục, nhưng nó không thể thay thế được sự đồng cảm, sáng tạo và tư duy phản biện mà các giáo viên, học trò và sự tương tác giữa người với người mang lại.

Với việc triển khai một cách cẩn thận và cam kết kiên định nhằm đạt được các mục tiêu giáo dục, con người có thể mở đường cho một môi trường học tập toàn diện, đổi mới và hiệu quả hơn cho học sinh trong vấn đề học tập.

Những lợi ích tiềm năng của AI đối với ngành giáo dục

-Trợ giảng: Nhờ có AI hỗ trợ, giáo viên có thêm thời gian để tương tác nhiều hơn với các em học sinh hơn. Một số ứng dụng của AI bao gồm xử lý các hoạt động như soạn giáo án, tạo tài liệu chuyên ngành, thiết kế bảng tính, tạo câu đố và khám phá các phương pháp giảng dạy khác nhau cho các chủ đề học thuật. Ngoài ra, AI còn có thể đưa ra đề xuất cho giáo viên về việc đáp ứng nhu cầu của học sinh, hỗ trợ họ tự đánh giá, chuẩn bị bài vở và nâng cao phương pháp giảng dạy.

-Thích ứng trong học tập: Các công ty như Pearson và Knewton, cung cấp những nền tảng giúp điều chỉnh nội dung và hoạt động liên quan đến học tập một cách nhanh chóng. Cùng với những phản hồi tức thì từ những bài kiểm tra, không ngừng giúp cải thiện cách tiếp cận của hệ thống. Bằng cách phân tích dữ liệu, thuật toán AI xác định phương pháp giảng dạy tốt nhất cho mỗi học sinh.

-Tự động chấm điểm: Thông qua việc chấm điểm tự động, hệ thống AI cho phép các thầy cô tập trung hơn vào việc tương tác với các em học sinh. Những bài kiểm tra trắc nghiệm được chấm điểm nhanh chóng và dễ dàng thông qua AI. Tính chủ quan, thành kiến, phản hồi/giải thích kém và lượng thời gian tiêu tốn có thể được giảm bớt hoặc thậm chí loại bỏ nhờ vào việc chấm điểm tự động.

-Gia sư AI: Các hệ thống dạy kèm này thường tập trung vào một chủ đề đơn lẻ, như khoa học, toán hoặc lịch sử, để tái tạo sự tương tác giống như gia sư là người thật. Một số ví dụ về các hệ thống dạy kèm thông minh này là Khanmigo của Khan Academy, hỗ trợ các chủ đề đã đề cập trước đó và Duolingo Chatbot, hỗ trợ người dùng nói thông thạo các ngôn ngữ, như tiếng Tây Ban Nha, Pháp hay Ý.

-Trợ lý hành chính: Hiện nay, một số quản trị viên trong các trường học cũng sử dụng AI trong việc giao tiếp với phụ huynh và học sinh theo nhiều cách khác nhau, như thông qua các bản tin và tài liệu gắn kết cộng đồng. Ngoài ra, AI còn giúp hoàn thành các công việc như sắp xếp lịch học, thậm chí lập kế hoạch cho các sự kiện ở trường.

ChatGPT có khả năng tiến hành phân tích kiểm soát chất lượng, điều này rất hữu ích trong việc đánh giá môi trường trường học tập và các kết quả khảo sát.

(ảnh: CFOTO/Future Publishing via Getty Images) 

Nhược điểm của AI trong giáo dục

-Khả năng tiếp cận: Dựa trên thực tế, không phải học sinh nào cũng có máy tính hay Wi-Fi để sử dụng các tính năng của AI. Khoảng cách công nghệ này ảnh hưởng đến cách học sinh từ các nền kinh tế xã hội khác nhau trong môi trường học tập.

Những thách thức trong học tập, khả năng tiếp cận các tài liệu cần thiết bị hạn chế, dẫn đến việc các em ít nhiều sẽ gặp khó khăn trong việc hoàn thành bài tập về nhà, nhận điểm thấp, bị tụt lại phía sau các bạn khác.

Khi công nghệ và AI trở thành một phần ngày càng quan trọng trong cuộc sống hàng ngày, điều quan trọng hơn là nó phải được phổ biến và phổ thông hóa để ai cũng sử dụng được.

-Gian lận: Cho dù là bài tập về nhà hay bài kiểm tra, học sinh làm biếng sẽ sử dụng AI để hoàn thành trách nhiệm mà không cần suy nghĩ nhiều. Với các công cụ phát hiện văn bản AI, như TurnItIn và GPTZero, đang được các trường cao đẳng, đại học và trung học sử dụng, việc sử dụng văn bản do AI tạo ra trong các bài luận là nguyên gây ra những tác động tiêu cực trong vấn đề học vấn, vì nó được coi là đạo văn và khiến việc học trở nên vô nghĩa.

-Ít tương tác xã hội: Các chatbot AI này hoạt động bằng cách bắt chước tương tác của con người, nhưng chúng lại thiếu khả năng hiểu được những lời đang được nói, dẫn đến những cuộc hội thoại vô nghĩa và chỉ khiến người dùng rối bời thêm.

Trong môi trường học tập, học sinh sẽ ít tương tác hơn với các bạn cùng lớp và giáo viên khi họ dành nhiều thời gian hơn với AI. Khi một người chỉ chú tâm đến trí tuệ nhân tạo vô cảm xúc, người ấy chỉ cảm thấy u sầu, lo lắng và cô đơn.

-Quá phụ thuộc: Quá phụ thuộc vào công nghệ AI cũng là mối lo ngại lớn cho cả học sinh và giáo viên. Đối với học sinh, sự phụ thuộc quá mức sẽ cản trở việc học tập, khiến cho các em ỷ lại vào máy móc nhiều hơn là tự lực.

Đối với giáo viên, nhờ vào chức năng tạo giáo án, thầy cô không còn phải tự làm nữa. Do đó, họ ít có thời gian để nghiên cứu về những gì mà mình sẽ truyền đạt lại cho học sinh, khiến cho việc dạy trở nên nhàm chán.

Khi kẻ xấu dùng AI giả dạng, đi lừa đảo

Nguyên Lee 

28 tháng 2, 2024

(minh họa: Antoine Beauvillain/Unsplash) 

Ngày nay, trí tuệ nhân tạo đang phát triển mạnh mẽ và cũng như hầu hết mọi thứ, AI đều có mặt lợi cũng như mặt hại.

Thông qua AI, kẻ xấu giả dạng người thân, bạn bè của bạn để đi lừa đảo. Đây là mặt xấu mà mọi người cần cảnh giác.

James McQuiggan, chuyên gia nâng cao nhận thức về bảo mật tại KnowBe4, chia sẻ hiểu biết của anh về mối nguy hiểm ngày càng tăng của tội phạm mạng và cách để giúp mọi người phòng tránh.

Theo McQuiggan, trí tuệ nhân tạo đang góp phần nâng cao mức độ tinh vi của các vụ lừa đảo trực tuyến và kỹ thuật xã hội một cách đáng kể, đồng thời tăng mức độ tinh xảo của các vụ lừa tình và giả mạo bằng giọng nói.

Với khả năng tạo ra nội dung mang tính cá nhân hóa và thực tế cao, những kẻ xấu giờ đây đang sử dụng công nghệ mới để tạo ra các bản ghi âm deepfake đầy thuyết phục trong nháy mắt bằng âm thanh và video từ các nguồn truyền thông xã hội, tất cả nhằm mục đích ghi lại những giọng điệu, câu nói, giả dạng người thân yêu của những ai nhẹ dạ cả tin để lấy tiền, McQuiggan cho biết trong một cuộc phỏng vấn với The Sun.

Đây quả là một mánh lừa cực kỳ tinh vi, gây nguy hại không chỉ đối các cá nhân mà kể cả những tổ chức, vì với cách phát hiện lừa đảo truyền thống và sự phát triển vượt thời gian của AI, chúng ta vẫn chưa có cách để xử lý hay đề phòng.

(minh họa: Max Bender/Unsplash) 

Tội phạm mạng đang sử dụng AI để nâng cấp các phương thức tấn công trực tuyến của chúng. Khả năng sao chép giọng nói của một cá nhân và sử dụng nó để lừa bịp qua điện thoại giờ đây dễ dàng đến mức những tên tội phạm có một chút kiến thức về công nghệ chỉ cần tốn khoảng ba giây âm thanh để thực hiện kế hoạch xấu xa của chúng.

Theo các chuyên gia tại McAfee, ngay cả một đoạn clip ngắn dài chừng ba giây cũng có khả năng tái tạo giọng nói của bạn với độ chính xác lên đến 70%.

Nhưng bạn đừng quá lo lắng, vì may mắn là vẫn có một số dấu hiệu để nhận biết khi bạn đang nghe điện thoại của một kẻ lừa đảo bằng AI.

McQuiggan khuyên mọi người chú ý đến những câu nói mông lung, lặp đi lặp lại, hoặc trả lời chóng vánh một cách bất thường, thiếu sự thông hiểu hoặc đồng cảm trong cuộc trò chuyện.

Ngoài ra, việc đặt các câu hỏi chi tiết, những câu hỏi mở, thay vì những câu hỏi đúng sai, sẽ giúp bạn dễ dàng nhận biết được đâu là người, đâu là máy. Lý do là vì AI chỉ có thể trả lời dựa trên những gì có sẵn, thiếu sự cảm nhận của một con người.

Bằng cách đặt các câu hỏi ngoài lề hoặc những mật khẩu được dặn trước, kẻ gian sẽ biết rằng chúng đang bị phát hiện.

Chuyên gia này cũng cho rằng các video sử dụng công nghệ deepfake rất đáng lo ngại. Tính năng deepfake ngày càng phát triển, những kẻ gian trên mạng ngày càng mưu mô, xảo quyệt hơn, và các vụ lừa đảo deepfake ngày càng gia tăng.

Tóm lại, khi trí tuệ nhân tạo trở nên thành thạo hơn trong việc tạo ra các video chân thực và thú vị trong thời gian ngắn, khả năng những người xấu khai thác công nghệ này cho mục đích lừa bịp sẽ chỉ có tăng chứ không giảm. Vấn đề là mọi người cần sáng suốt, bình tĩnh khi nhận những cuộc gọi tưởng là người thân, và bị mắc lừa.

Bầu cử tổng thống Mỹ: Bất an trước công nghệ ma quái A.I.

Thái Ngọc

26 tháng 2, 2024

Quốc hội Hoa Kỳ vẫn bế tắc trong việc giải quyết những ảnh hưởng A.I. trước thềm mùa bầu cử 2024 (ảnh: Samuel Corum/Getty Images) 

Reuters cho biết, một nhóm nghiên cứu thuộc Microsoft đã phát hiện một mạng lưới các tài khoản mạng xã hội giả mạo do Trung Quốc kiểm soát đang tìm cách gây ảnh hưởng đến cử tri Hoa Kỳ bằng cách sử dụng trí tuệ nhân tạo (A.I.). 

Phát ngôn viên Đại sứ quán Trung Quốc tại Washington dĩ nhiên phản ứng rằng những cáo buộc về việc Trung Quốc sử dụng A.I. để tạo tài khoản mạng xã hội giả mạo là “đầy định kiến và suy đoán ác ý”. Mối lo về sự hỗn loạn trong cuộc bầu cử tổng thống Mỹ 2024 không dừng lại tại đó…

Bùng nổ trò đùa tai quái bằng công nghệ A.I. 

Mới đây, một cuộc gọi tự động được tạo ra bằng A.I. đã nhắm vào các cử tri ở New Hampshire trong cuộc bầu cử sơ bộ vào Tháng Giêng 2024, với việc nhái giọng Tổng thống Joe Biden y như thật. Cuộc gọi sử dụng công nghệ siêu giả (“deepfake”) liên quan hai công ty ở Texas, Life Corporation và Lingo Telecom.

Lisa Gilbert, phó chủ tịch điều hành Public Citizen, một nhóm đang thúc đẩy quy định của liên bang và tiểu bang về việc sử dụng A.I. trong chính trị, cho biết không rõ liệu các cuộc gọi deepfake có thực sự ngăn cản cử tri đi bỏ phiếu hay không nhưng vấn đề rõ ràng không thể xem nhẹ. Khắp thế giới, sự bùng nổ dùng A.I. để lừa cử tri đang gây ra những lo ngại rất lớn. Ở Slovakia, các bản ghi âm giả đã gây ảnh hưởng đến một cuộc bầu cử, và sự việc được xem là “điềm báo đáng sợ về một kiểu can thiệp mà Hoa Kỳ có thể gặp phải trong cuộc bầu cử tổng thống năm 2024” – theo CNN.

Ở Indonesia, Reuters cho biết, hình đại diện của một chỉ huy quân sự do A.I. tạo ra đã biến bộ trưởng quốc phòng nước này thành một người đàn ông “má mũm mĩm”, người “làm hình trái tim bằng ngón tay kiểu Hàn Quốc và ôm chú mèo cưng Bobby, trước sự hài lòng của các cử tri Thế hệ Z”. Và ở Ấn Độ, A.I. đã “hồi sinh” một số chính trị gia quá cố để họ… khen các quan chức được bầu, theo Al Jazeera.

Tại Mỹ, các quy định hiện thời vẫn chưa sẵn sàng đối phó trước sự bùng nổ của công nghệ A.I. và cách công nghệ ma quái này ảnh hưởng đến cử tri. Ngay sau cuộc gọi giả giọng Joe Biden ở New Hampshire, Ủy ban Truyền thông Liên bang (Federal Communications Commission – FCC) đã công bố lệnh cấm các cuộc gọi tự động sử dụng âm thanh A.I. (A.I. audio). Tuy nhiên, FCC vẫn chưa đưa ra các quy tắc nhất quán và rõ ràng để quản lý việc sử dụng A.I. trong quảng cáo chính trị, dù nhiều tiểu bang đang nỗ lực lấp khoảng trống trong quy định.

Hạ viện Hoa Kỳ đã thành lập một lực lượng đặc nhiệm lưỡng đảng vào ngày 20 Tháng Hai để nghiên cứu các qui định liên quan A.I. Tuy nhiên, với tình trạng bế tắc đảng phái tại Quốc hội, cùng với việc chạy đua tìm kiếm những nguyên tắc kiểm soát trước tốc độ phát triển như vũ bão của A.I., không rõ điều gì, nếu có, có thể được áp dụng kịp thời cho cuộc bầu cử năm nay.

Từ Donald Trump đến Joe Biden

A.I. – dưới dạng văn bản, bot, âm thanh, ảnh hoặc video – có thể được dùng để biến các ứng cử viên giống như đang nói hoặc làm những việc họ không làm, nhằm gây tổn hại uy tín họ hoặc đánh lừa cử tri. A.I. cũng có thể được sử dụng để thực hiện những chiến dịch tung tin giả. Các chuyên gia lo ngại những cuộc gọi do A.I. tạo ra sẽ bắt chước giọng nói những người quen biết trong đời thực, từ hàng xóm đến thân nhân, để dễ dàng lừa bịp trong một mùa bầu cử được dự báo chắc chắn bát nháo.

Những công ty quản lý công cụ A.I. đã đưa ra kế hoạch nhằm hạn chế ảnh hưởng tiềm tàng của nó đối với các cuộc bầu cử, chẳng hạn yêu cầu chatbot của họ hướng mọi người đến các nguồn đáng tin cậy về nơi bỏ phiếu và không cho phép chatbot bắt chước ứng cử viên. Một hiệp ước gần đây giữa khoảng 20 đại công ty công nghệ, trong đó có Google, Meta, Microsoft và OpenA.I., đã cùng thống nhất đưa ra “các biện pháp phòng ngừa hợp lý”, như “dán nhãn” (labeling) cảnh báo đồng thời cung cấp những kiến thức chính trị căn bản để người sử dụng không bị A.I. đánh lừa. Dù vậy, với bọn xấu, chúng dễ dàng né tránh các quy định và hạn chế mà những công ty công nghệ đặt ra.

Ở cấp độ quốc gia, hoặc trong trường hợp những nhân vật nổi tiếng của công chúng, việc vạch trần một vụ deepfake có thể không khó khăn và nhiều người sẵn sàng cùng vào cuộc. Tuy nhiên, ở quy mô nhỏ hơn, sẽ có ít người muốn bỏ ra thời gian để vạch trần thứ gì đó bị tình nghi do A.I. tạo ra. Các đoạn ghi âm – có thể do A.I. tạo ra – được đăng vào Tháng Giêng liên quan một hiệu trưởng địa phương ở Baltimore bị cáo buộc đưa ra những bình luận xúc phạm đến nay vẫn chưa biết thực hư như thế nào.

Như John Herrman viết trên New York Magazine, các công cụ A.I. mới, chẳng hạn trình tạo hình ảnh (image generator) Gemini của Google, đã được những kẻ xấu dễ dàng thao túng để cho ra những hình ảnh không có thực về những người sáng lập nước Mỹ. Trình tạo hình ảnh là những phần mềm có thể tổng hợp nội dung từ nhiều phương tiện truyền thông hiện có để tạo ra ảnh (photo) và hình minh họa (illustration) theo ý người dùng.

Cách đây không lâu, một nhóm chống súng ở Mỹ đã dùng A.I. nhái giọng những đứa trẻ nạn nhân trong vụ xả súng hàng loạt nhằm thuyết phục các nhà lập pháp hành động chống lại bạo lực súng đạn. Một số chiến dịch chính trị thậm chí sử dụng A.I. để hiển thị thông điệp của họ.

Donald Trump lẫn Joe Biden từng nhiều lần là nạn nhân của hình ảnh A.I. giả mạo. Đầu Tháng Giêng, nam diễn viên Mark Ruffalo đã chia sẻ những hình ảnh do A.I. tạo ra cho thấy Trump cùng các cô gái trẻ trên máy bay riêng của kẻ buôn bán tình dục Jeffrey Epstein. Ruffalo sau đó xin lỗi và nói rằng mình không biết đó là ảnh giả. Tháng Bảy 2023, siêu PAC (political action committee) “Never Back Down” hỗ trợ chiến dịch tranh cử tổng thống của Ron DeSantis đã phát một quảng cáo chống Trump ở Iowa, sử dụng tính năng bắt chước giọng nói của Trump do A.I. tạo ra. Trước đó, Tháng Sáu, một quảng cáo chống Trump từ chiến dịch tranh cử của Ron DeSantis đã tung ảnh A.I. cho thấy Trump hôn lên má Tiến sĩ Anthony Fauci.

Tháng Sáu 2023, một ảnh Joe Biden do A.I. tạo ra cho thấy ông mặc bộ đồ bảo hộ bằng bong bóng, hàm ý mỉa mai đến sức khỏe và tuổi tác của ông. Tháng Tư 2023, Ủy ban Quốc gia Đảng Cộng hòa phát một quảng cáo mô tả những gì họ nói là “cái nhìn do A.I. tạo ra về tương lai có thể có của nước Mỹ nếu Joe Biden tái đắc cử năm 2024”. Quảng cáo có nội dung về “ngày tận thế” của nước Mỹ nếu Joe Biden tiếp tục thêm nhiệm kỳ bốn năm nữa. Tháng Ba 2023, người sáng lập trang mạng Bellingcat, Eliot Higgins, đã tung ra loạt ảnh giả, làm bằng công cụ A.I. Midjourney, cho thấy cảnh Donald Trump bị bắt và bị nhốt tù.

Ảnh giả Donald Trump hôn Anthony Fauci 

Ảnh giả Donald Trump bị bắt 

Luật kiểm soát A.I.: Đánh trống bỏ dùi?

Hơn 40 bang đang nỗ lực thông qua luật hạn chế lạm dụng A.I. Theo tờ Axios, tính đến đầu Tháng Hai 2024, hàng trăm dự luật liên quan A.I. đã được đề xuất tại hơn 40 tiểu bang – và gần một nửa tập trung vào việc chống lại việc sử dụng công nghệ “deepfake”. Các nhà lập pháp ở ít nhất 33 tiểu bang cũng đã đề xuất loạt dự luật sử dụng A.I. liên quan bầu cử. Vẫn còn phải xem những nỗ lực này có thể kiềm chế A.I. đến mức nào. Tại New York, cùng với California, Thống đốc Kathy Hochul gần đây thông báo rằng bà muốn những bộ máy vận động tranh cử phải thừa nhận việc sử dụng A.I. trong bất kỳ hoạt động truyền thông chính trị nào trong vòng 60 ngày trước ngày bầu cử.

Đầu Tháng Hai 2024, chiếu theo Đạo luật Bảo vệ Người tiêu dùng Điện thoại (Telephone Consumer Protection Act) năm 1991, Ủy ban Truyền thông Liên bang (FCC) đã cấm sử dụng giọng nói do A.I. tạo ra trong các cuộc gọi tự động (robocall). Điều đó có nghĩa từ nay, FCC có thể phạt những người vi phạm và chặn các nhà cung cấp dịch vụ được sử dụng để thực hiện các cuộc gọi tự động.

Hạ viện Hoa Kỳ nhiều lần tổ chức nghe giải trình từ giới CEO các công ty công nghệ lớn liên quan deepfake nhưng việc kiểm soát A.I. vẫn chưa được rốt ráo (ảnh: Chip Somodevilla/Getty Images) 

FCC cũng trao quyền cho tổng chưởng lý cấp tiểu bang (state attorneys general) nhắm vào những người đứng sau các cuộc gọi, và tạo điều kiện cho những người nhận cuộc gọi A.I. có thể khởi kiện đòi bồi thường thiệt hại lên tới $1,500 cho mỗi cuộc gọi. Tuy nhiên, cần nhấn mạnh, một vấn đề phức tạp đối với việc thực thi là phần lớn cuộc gọi tự động bất hợp pháp ở Mỹ đều có nguồn gốc từ các quốc gia bên ngoài. Năm 2021, Industry Traceback Group cho biết, 65% cuộc gọi như vậy đều có nguồn gốc quốc tế.

Chỉ còn vài tháng là đến ngày bầu cử nhưng nhìn chung nước Mỹ vẫn loay hoay. Giữa Tháng Hai 2024, theo CNN, bất chấp sự lạc quan của các nhà lập pháp, trong đó có Lãnh đạo đa số Thượng viện Chuck Schumer, có rất ít lý do để tin rằng Quốc hội Hoa Kỳ sẽ thông qua bất kỳ đạo luật có ý nghĩa nào chống lại việc lạm dụng A.I. trước cuộc bầu cử vào Tháng Mười Một 2024. Sau nhiều phiên điều trần cấp cao và các phiên họp kín thu hút những người như Bill Gates, Mark Zuckerberg và Elon Musk tới Capitol Hill, Quốc hội Hoa Kỳ hiện thời vẫn bế tắc trong việc giải quyết mớ hổ lốn A.I.

---