9 nguyên tắc nghiên cứu phát triển hệ thống AI có trách nhiệm
Robot biểu diễn đánh đàn tại Ngày hội Trí tuệ nhân tạo Việt Nam (AI4VN 2023).
Lần đầu tiên bộ nguyên tắc chung cho nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm, dành cho các cơ quan, tổ chức khoa học và công nghệ, doanh nghiệp cá nhân có hoạt động thiết kế, phát triển cung cấp các hệ thống AI được nêu tại Quyết định do Bộ Khoa học và Công nghệ ban hành ngày 11/6. Theo đó, 9 nguyên tắc nghiên cứu, phát triển hệ thống AI có trách nhiệm bao gồm:
Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo. Nhà phát triển cần chú ý đến khả năng kết nối và tương tác của các hệ thống AI nhằm tăng cường lợi ích của hệ thống AI thông qua quá trình kết nối các hệ thống và tăng cường sự phối hợp để kiểm soát rủi ro. Muốn vậy các nhà phát triển cần hợp tác chia sẻ thông tin liên quan nhằm đảm bảo tính liên thông, tương tác của hệ thống. Ưu tiên phát triển các hệ thống AI phù hợp các quy chuẩn kỹ thuật, tiêu chuẩn quốc gia hoặc tiêu chuẩn quốc tế, bên cạnh đó chuẩn hóa của các định dạng dữ liệu và tính mở của các giao diện, giao thức trong đó có các giao diện lập trình ứng dụng (API). Việc chia sẻ và trao đổi các điều kiện về quyền sở hữu trí tuệ như bằng sáng chế cũng góp phần tăng cường tính liên kết và khả năng tương tác khi liên quan đến các tài sản trí tuệ.
Tính minh bạch: Nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng.
Khả năng kiểm soát hệ thống: Một trong những phương pháp đánh giá rủi ro là tiến hành thử nghiệm trong một không gian riêng như trong phòng thí nghiệm hoặc môi trường thử nghiệm nơi đã có các biện pháp đảm bảo an ninh, an toàn trước khi đưa vào áp dụng thực tế. Nhà phát triển chú ý đến giám sát hệ thống (có công cụ đánh giá/giám sát hoặc hiệu chỉnh/cập nhật dựa trên các phản hồi của người dùng) và các biện pháp ứng phó (như ngắt hệ thống, ngắt mạng...).
Đánh giá xác định và giảm thiểu các rủi ro liên quan đến sự an toàn của hệ thống AI.
Các nhà phát triển cần chú ý đến tính bảo mật, trong đó đặc biệt lưu ý đến độ tin cậy và khả năng chống chịu các dạng tấn công hoặc tai nạn vật lý của hệ thống trí tuệ nhân tạo. Đồng thời cần đảm bảo tính bảo mật; sự toàn vẹn và tính khả dụng của các thông tin cần thiết liên quan đến sự an toàn thông tin của hệ thống.
Đảm bảo hệ thống trí tuệ nhân tạo không vi phạm quyền riêng tư của người dùng hoặc bên thứ ba. Quyền riêng tư được đề cập trong nguyên tắc này bao gồm không gian (sự yên bình trong cuộc sống cá nhân), thông tin (dữ liệu cá nhân) và sự bí mật của việc thông tin liên lạc. Nhà phát triển có thể thực hiện các biện pháp phù hợp với đặc điểm của công nghệ được áp dụng trong suốt quá trình phát triển hệ thống (từ khi thiết kế) để tránh xâm phạm quyền riêng tư khi đưa vào sử dụng.
Khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người, thực hiện biện pháp phòng ngừa để đảm bảo không vi phạm giá trị con người, đạo đức xã hội.
Hỗ trợ người dùng và tạo điều kiện cho người dùng có cơ hội lựa chọn như tạo ra các giao diện sẵn sàng cung cấp thông tin kịp thời, biện pháp giúp người già, người khuyết tật dễ sử dụng.
Cuối cùng, nhà phát triển cần thực hiện trách nhiệm giải trình đối với các hệ thống AI đã phát triển để đảm bảo niềm tin của người dùng.
Bộ Khoa học và Công nghệ cho biết việc xây dựng các tiêu chuẩn nhằm hướng dẫn, định hướng qua đó gia tăng lợi ích từ các hệ thống AI, kiểm soát giảm thiểu các rủi ro trong quá trình phát triển, sử dụng trí tuệ nhân tạo, cân đối các yếu tố kinh tế, đạo đức và pháp lý.
Trước đó, Thứ trưởng Khoa học và Công nghệ Bùi Thế Duy, cho biết đạo đức AI là vấn đề phức tạp, quy mô toàn cầu, đang thu hút nhiều quốc gia, tổ chức trên thế giới tham gia tìm phương án giải quyết, gồm cả UNESCO. Đạo đức AI ảnh hưởng tới đa dạng khía cạnh cuộc sống như xã hội, pháp lý, cạnh tranh chính trị và cạnh tranh thương mại.
Do đó bộ nguyên tắc nghiên cứu, phát triển các hệ thống AI tại Việt Nam bám sát các mục tiêu như phải hướng tới xã hội lấy con người làm trung tâm, đảm bảo sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI, phát huy lợi ích của trí tuệ nhân tạo thông qua các hoạt động nghiên cứu, phát triển và đổi mới sáng tạo, giảm thiểu nguy cơ xâm phạm quyền. Ngoài ra việc nghiên cứu cần đảm bảo tính trung lập về công nghệ, các nhà phát triển cũng không bị ảnh hưởng bởi sự phát triển quá nhanh của các công nghệ liên quan đến trí tuệ nhân tạo trong tương lai.
Theo vnexpress.net
Tin cùng chuyên mục
- 201 thí sinh tham gia Hội thi tin học trẻ tỉnh Thái Bình năm 2024 10.06.2024 | 19:17 PM
- Thái Bình: Phát triển hoạt động khoa học công nghệ và đổi mới sáng tạo 26.04.2024 | 16:15 PM
- Tổng kết và trao giải hội thi, cuộc thi sáng tạo khoa học năm 2022 - 2023 18.12.2023 | 16:35 PM
- Hội thảo khoa học về vai trò của khoa học và công nghệ trong việc sản xuất, tiêu thụ và phát triển sản phẩm nông nghiệp 16.12.2023 | 14:38 PM
- Hội nghị khoa học về chẩn đoán và điều trị bệnh lý tim mạch 28.10.2023 | 12:02 PM
- Ứng dụng công nghệ sinh học trong sản xuất nước mắm 15.02.2023 | 18:51 PM
- Tàu container lớn nhất thế giới 13.02.2023 | 08:42 AM
- Phát triển thị trường khoa học và công nghệ đồng bộ, hiệu quả, hiện đại và hội nhập 23.09.2022 | 21:19 PM
- Hội thảo tư vấn, phản biện về cơ chế, chính sách hỗ trợ các hoạt động phát triển khoa học, công nghệ 07.06.2022 | 16:39 PM
- Chuyển đổi số - chuyển đổi từ nhận thức 24.05.2022 | 08:56 AM
Xem tin theo ngày
-
Hội nghị Ban Thường vụ Tỉnh ủy
- UBND tỉnh họp nghe báo cáo tình hình thực hiện dự án một số dự án giao thông
- Cử tri huyện Đông Hưng, Thái Thụy kiến nghị Quốc hội tăng cường giám sát các vấn đề nóng được cử tri và nhân dân quan tâm
- Đồng chí Ngô Đông Hải, Bí thư Tỉnh ủy, Trưởng đoàn đại biểu Quốc hội tỉnh tiếp xúc cử tri các huyện Quỳnh Phụ và Hưng Hà
- Phát huy truyền thống, kiên định mục tiêu, nỗ lực sáng tạo, quyết tâm đồng lòng xây dựng thành phố Thái Bình ngày càng giàu đẹp, văn minh
- Long trọng lễ kỷ niệm 70 năm ngày giải phóng thị xã, 20 năm xây dựng và phát triển thành phố Thái Bình và đón nhận Huân chương Độc lập hạng Nhì
- Bế mạc kỳ họp thứ 7, Quốc hội khóa XV
- Xây dựng thành phố Thái Bình phát triển thông minh, hiện đại, thân thiện, mang đậm nét bản sắc văn hóa của vùng đất và con người Thái Bình
- Tiếp tục đổi mới phương pháp, nâng cao chất lượng công tác kiểm tra, giám sát, thi hành kỷ luật trong Đảng
- Trao quyết định về công tác cán bộ tại Kho bạc Nhà nước Thái Bình