Hướng dẫn về AI tạo sinh của San Francisco

3 nguyên tắc hàng đầu để khám phá với AI tạo sinh

• Luôn xem xét và kiểm tra thực tế nội dung do AI tạo ra trước khi sử dụng
• Luôn tiết lộ việc sử dụng AI tạo sinh trong đầu ra của bạn
• Không bao giờ nhập thông tin nhạy cảm vào các công cụ AI tạo ra công khai, như ChatGPT. Thông tin bạn nhập có thể được các công ty tạo ra các công cụ và, trong một số trường hợp, các thành viên của công chúng xem

Giới thiệu

Trí tuệ nhân tạo (AI) có tiềm năng to lớn trong việc mang lại lợi ích cho công chúng khi được sử dụng một cách có trách nhiệm. Gần đây, công nghệ AI tạo sinh đã thu hút được sự chú ý của công chúng và được nhân viên của Thành phố và Quận San Francisco (Thành phố) sử dụng. AI tạo sinh tạo ra dữ liệu mới dựa trên các mẫu học được từ dữ liệu hiện có và có thể tạo ra nội dung mô phỏng sự sáng tạo của con người. Ví dụ bao gồm tạo văn bản, tạo hình ảnh và sáng tác nhạc. AI tạo sinh khác với công nghệ AI hiện đang được Thành phố sử dụng, công nghệ này hỗ trợ các quyết định sáng suốt dựa trên dữ liệu đầu vào nhưng không tạo ra nội dung mới. AI tạo sinh mang đến những cơ hội mới và cũng đặt ra những thách thức độc đáo để đảm bảo việc sử dụng có trách nhiệm và hiệu quả.

Phạm vi của Hướng dẫn

Các hướng dẫn sau đây áp dụng cho tất cả nhân viên sở ban ngành thành phố, bao gồm nhân viên, nhà thầu, cố vấn, tình nguyện viên và nhà cung cấp khi làm việc thay mặt cho Thành phố. Các hướng dẫn sẽ phát triển dựa trên các diễn biến về mặt lập pháp và quy định cũng như các thay đổi đối với công nghệ AI tạo sinh. Văn phòng Quản trị viên Thành phố sẽ cập nhật các hướng dẫn khi có những tiến bộ, trường hợp sử dụng và thông tin mới.

Định nghĩa

Trí tuệ nhân tạo (AI) là gì?

Trí tuệ nhân tạo tạo ra là các công cụ phần mềm mới có thể tạo ra văn bản, hình ảnh, âm thanh, video và các phương tiện truyền thông khác một cách chân thực dựa trên lời nhắc do người dùng cung cấp. Các ứng dụng trí tuệ nhân tạo tạo ra phổ biến bao gồm ChatGPT, Bard và Dall-E. Các công cụ này sử dụng các thuật toán học máy đã được đào tạo trên các tập dữ liệu văn bản và hình ảnh rất lớn được thu thập từ internet. Các mô hình này đã trích xuất các mẫu ngôn ngữ và hình ảnh chung từ dữ liệu đào tạo và có thể phản hồi lời nhắc một cách nhanh chóng theo cách chân thực.

Các ứng dụng AI tạo sinh được xây dựng bằng cách sử dụng các tập dữ liệu đào tạo từ nhiều nguồn khác nhau trên internet và thường bao gồm giới tính, chủng tộc, chính trị và các thành kiến khác. Do đó, đầu ra AI tạo sinh có thể truyền bá các thành kiến. Ngoài ra, ngay cả các công cụ AI tạo sinh tiên tiến nhất hiện nay cũng có thể cung cấp các câu trả lời không nhất quán cho các câu hỏi dựa trên thực tế. Người dùng nên luôn kiểm tra nội dung do AI tạo ra để đảm bảo tính chính xác cũng như các thành kiến mà chúng có thể hiển thị.

Còn AI truyền thống thì sao?

Trí tuệ nhân tạo tạo ra khác với các mô hình Học máy phân biệt đã được sử dụng rộng rãi từ đầu những năm 2000, bao gồm cả Thành phố. Các mô hình Học máy phân biệt không tạo ra nội dung mới. Chúng chỉ giới hạn ở việc tạo ra các giá trị đã biết và được xác thực. Các mô hình này chủ yếu được sử dụng để dự đoán số lượng (ví dụ: dự đoán giá nhà) hoặc để chỉ định thành viên nhóm (ví dụ: phân loại hình ảnh thành các danh mục).

Chính quyền thành phố có lợi ích gì?

Các công cụ AI tạo sinh, được sử dụng hợp lý, có tiềm năng mở rộng bộ công cụ của San Francisco cho dịch vụ công. Các tính năng tạo văn bản, mã và hình ảnh có thể tăng tốc hoặc cải thiện các tác vụ phổ biến khi được sử dụng cẩn thận.

Ví dụ, khi sử dụng trong hướng dẫn, các công cụ AI tạo sinh có thể hỗ trợ:

• Tạo bản thảo đầu tiên của các tài liệu, kế hoạch, bản ghi nhớ và tóm tắt
• “Dịch” văn bản thành các cấp độ trang trọng, cấp độ đọc, v.v.
  • Viết lại một email không chính thức thành bản nháp của một bản ghi nhớ
  • Tóm tắt tài liệu kỹ thuật hoặc pháp lý bằng ngôn ngữ dễ hiểu và tóm tắt mục tiêu cho các đối tượng khác nhau
  • Biến những suy nghĩ thất vọng thành một yêu cầu lịch sự giữa các phòng ban
• Các nhiệm vụ mã hóa và thử nghiệm lặp đi lặp lại cho các nhà phát triển phần mềm, với các đánh giá kỹ thuật phù hợp
• Tạo sơ đồ hoặc hình ảnh giải thích khác
• Phát triển các giao diện dịch vụ như chatbot với sự chú ý thích hợp đến khả năng truy cập ngôn ngữ và độ chính xác

Tất cả những lợi ích này đều có hiệu quả tốt nhất khi được kiểm tra bởi một người:

1. Có hiểu biết về nội dung và dịch vụ được cung cấp
2. Nhận thức được những sai lầm và hạn chế phổ biến của Trí tuệ nhân tạo

Rủi ro của AI tạo sinh là gì?

Trí tuệ nhân tạo tạo ra nội dung có vẻ uy tín và được trau chuốt, giúp dễ dàng chấp nhận nội dung do AI tạo ra theo đúng giá trị thực. Nếu không có người hiểu biết hoặc hệ thống chuyên gia để xem xét nội dung về độ chính xác, Trí tuệ nhân tạo tạo ra có khả năng gây hiểu lầm cho người dùng và công chúng. Những rủi ro này sẽ tăng lên nếu đầu ra không được gắn nhãn là do AI tạo ra, soạn thảo hoặc thông báo. Những rủi ro này cũng có thể xảy ra khi công nghệ Trí tuệ nhân tạo tạo ra là một thành phần của phần mềm khác, chẳng hạn như ứng dụng kinh doanh đám mây hoặc công cụ năng suất, mà người dùng có thể không nhận thấy.

Nhân viên phải sử dụng các công cụ AI tạo sinh một cách cẩn thận để tránh những hậu quả tiêu cực có thể xảy ra:

• Đưa ra quyết định không phù hợp ảnh hưởng đến cư dân dựa trên nội dung do AI tạo ra
• Cung cấp thông tin không chính xác cho công chúng hoặc nội bộ
• Kết hợp các thành kiến được tìm thấy trong dữ liệu đào tạo của AI, dẫn đến sự bất bình đẳng
• Các vấn đề về an ninh mạng hoặc các lỗi khác do sử dụng mã do AI tạo ra
• Tiết lộ dữ liệu không công khai như một phần của bộ dữ liệu đào tạo. (Nhân viên phải cho rằng mọi dữ liệu được nhập vào công cụ AI tạo sinh đều trở thành một phần của bộ dữ liệu đào tạo.)
• Gán không chính xác nội dung do AI tạo ra cho các nguồn SF chính thức

Hướng dẫn của thành phố về việc sử dụng AI tạo sinh

Để hỗ trợ bảo mật cho hệ thống và dữ liệu của Thành phố và phục vụ công chúng tốt nhất, đồng thời duy trì niềm tin của công chúng, hãy tuân thủ những điều nên và không nên làm sau đây khi sử dụng AI tạo sinh.

LÀM

• Hãy thử xem! Thử nghiệm với các công cụ AI tạo sinh để soạn thảo, cân bằng và định dạng văn bản và hình ảnh giải thích bằng thông tin công khai
• Làm việc với nhóm CNTT của phòng ban bạn và thử nghiệm kỹ lưỡng với nhiều trường hợp sử dụng khác nhau trước khi sử dụng AI tạo sinh trong việc cung cấp chương trình hoặc dịch vụ
• Xem xét kỹ lưỡng và kiểm tra thực tế tất cả nội dung do AI tạo ra (ví dụ: văn bản, mã, hình ảnh, v.v.). Bạn chịu trách nhiệm về những gì bạn tạo ra với sự hỗ trợ của AI tạo ra
• Tiết lộ khi nào và cách AI tạo ra được sử dụng trong đầu ra của bạn. Ví dụ:
  • “Hình ảnh tiêu đề được tạo bằng công cụ AI MidJourney”
  • “Bản tóm tắt này được tạo ra bằng Bard, một công cụ AI tạo ra”
  • “FYI, tôi đã sử dụng ChatGPT để sửa đổi email này”

Đừng

• Nhập vào các công cụ AI tạo ra công khai (ví dụ: ChatGPT) bất kỳ thông tin nào không thể công khai hoàn toàn cho công chúng. Thông tin này có thể được xem bởi các công ty tạo ra các công cụ và, trong một số trường hợp, các thành viên khác của công chúng. Sau khi nhập, thông tin này trở thành một phần của hồ sơ công khai. Việc xử lý và tiết lộ thông tin nhạy cảm đã được quản lý bởi một số chính sách của Thành phố, bao gồm nhưng không giới hạn ở:
  • Điều lệ Mục 16.130, Chính sách bảo mật là trên hết
  • Bộ luật hành chính Mục 12M.2(a), Không tiết lộ thông tin cá nhân
  • Mục 3.228 của Bộ luật về Chiến dịch và Hành vi của Chính phủ, Tiết lộ hoặc Sử dụng Thông tin Thành phố Bí mật
  • Phần “Máy tính và Hệ thống thông tin dữ liệu” của Sổ tay nhân viên của Bộ phận nhân sự (tháng 1 năm 2012, trang 48)
  • Vui lòng tham khảo Tiêu chuẩn phân loại dữ liệu toàn thành phố để biết thêm thông tin chi tiết về phân loại dữ liệu và vai trò chịu trách nhiệm của phòng ban
• Công bố kết quả AI tạo sinh (dù là văn bản, hình ảnh hay mã) mà không có sự xem xét và tiết lộ đầy đủ
• Yêu cầu các công cụ AI tạo ra tìm kiếm sự thật hoặc đưa ra quyết định mà không cần sự đánh giá của chuyên gia
• Tạo hình ảnh, âm thanh hoặc video có thể bị nhầm là người thật, ví dụ:
  • Tạo ảnh giả hoặc ghi âm một viên chức hoặc thành viên công chúng cụ thể của San Francisco (“deepfake”) – ngay cả khi đã được tiết lộ
  • Tạo ra hình ảnh hoặc bản ghi âm giả mạo có vẻ là của một viên chức San Francisco hoặc công chức, ngay cả khi không phải là một người cụ thể
  • Tạo ra "người trả lời" giả mạo hoặc hồ sơ giả mạo cho các cuộc khảo sát hoặc nghiên cứu khác
• Che giấu việc sử dụng AI tạo sinh trong quá trình tương tác với đồng nghiệp hoặc công chúng, chẳng hạn như các công cụ có thể lắng nghe và phiên âm cuộc trò chuyện hoặc các công cụ cung cấp dịch thuật đồng thời

Hướng dẫn bổ sung cho các nhà lãnh đạo CNTT của các phòng ban

Các nhà lãnh đạo CNTT của phòng ban có trách nhiệm hỗ trợ việc sử dụng AI tạo sinh đúng quy mô mang lại lợi ích công cộng lớn nhất. Các nhà lãnh đạo CNTT nên cân nhắc hướng dẫn bổ sung sau đây khi làm việc với nhân viên để xác định các trường hợp sử dụng phù hợp cho AI tạo sinh.

Mong đợi những công cụ này và hướng dẫn liên quan đến các công cụ này sẽ phát triển theo thời gian. Đây là sự khởi đầu. Điều quan trọng là phải nhận thức và theo dõi việc sử dụng để cho phép minh bạch với công chúng và đảm bảo sử dụng có trách nhiệm.

Bắt đầu thu thập các trường hợp sử dụng và chuẩn bị báo cáo việc sử dụng của bạn trên diễn đàn công khai để đảm bảo tính minh bạch và trách nhiệm giải trình.

Tìm hiểu xem phần mềm bạn quản lý – và các thành phần của nó – có bao gồm AI tạo sinh hay không; thông báo cho nhóm của bạn cách sử dụng phần mềm và những rủi ro cụ thể là gì.

Đặt câu hỏi về AI tạo sinh trong quá trình chào hàng của bạn.

Làm việc với các nhà cung cấp để đảm bảo rằng AI được tích hợp vào các công cụ đã mua sẽ có thể giải thích và kiểm tra được. Các nhà cung cấp phải có khả năng cung cấp thông tin và tài liệu về nguồn dữ liệu, phương pháp và xác thực.

Thử nghiệm đào tạo các mô hình nội bộ trên dữ liệu nội bộ.

Khi cân nhắc triển khai chatbot để phục vụ công chúng, hãy thử nghiệm kỹ lưỡng và xây dựng kế hoạch tiếp cận ngôn ngữ.

Tham khảo Văn phòng An ninh mạng ngay từ đầu quá trình thử nghiệm khi xây dựng hoặc mua ứng dụng sử dụng công nghệ AI tạo sinh.

Lý lịch

Bối cảnh pháp lý và quy định hiện tại

Chính phủ, nhà nghiên cứu và chuyên gia chính sách công nghệ đang theo dõi chặt chẽ quá trình phát triển của các công cụ AI tạo sinh để hiểu rõ những rủi ro và lợi ích tiềm ẩn đối với dịch vụ công. Vào tháng 10 năm 2023, Tổng thống Biden đã ban hành Lệnh hành pháp nhằm cải thiện sự an toàn và bảo mật của AI trong các khu vực công và tư nhân. Ở cấp tiểu bang, Thống đốc Newsom đã ban hành Lệnh hành pháp vào tháng 9 năm 2023 chỉ đạo các cơ quan nhà nước nghiên cứu quá trình phát triển, sử dụng và rủi ro của AI và xây dựng quy trình triển khai trong chính quyền California. Cả cơ quan lập pháp liên bang và tiểu bang cũng đã tranh luận về nhiều dự luật liên quan đến việc quản lý việc sử dụng AI. Xét đến tình trạng ban đầu của AI tạo sinh, những nỗ lực đang diễn ra ở cấp liên bang và tiểu bang cũng như tính phức tạp của các hoạt động của thành phố và các trường hợp sử dụng AI tiềm năng, Thành phố sẽ tiếp tục đánh giá lĩnh vực này trước khi ban hành các chính sách cấm đoán hơn để quản lý AI.

Phát triển ban đầu của các hướng dẫn

Văn phòng Quản lý Thành phố (do Dịch vụ Dữ liệu và Kỹ thuật số, Bộ Công nghệ và Ủy ban Công nghệ Thông tin đứng đầu) đã xây dựng các hướng dẫn tập trung vào AI tạo sinh này sau khi xem xét các hướng dẫn gần đây về AI tạo sinh do Boston, San Jose, Vương quốc Anh, Văn phòng Chính sách Khoa học và Công nghệ Nhà Trắng và Văn phòng Thống đốc Newsom ban hành.

Thành phố và Quận San Francisco áp dụng sáng kiến với việc sử dụng có trách nhiệm và công bằng. Một số sở ban ngành của thành phố hiện đang sử dụng nhiều loại AI khác nhau để hỗ trợ cung cấp dịch vụ. Ví dụ, SF311 sử dụng AI để phân loại các mô tả và ảnh do công chúng gửi để đẩy nhanh phản hồi cho các yêu cầu dịch vụ. Văn phòng thẩm định viên-ghi chép sử dụng AI để dự đoán giá bất động sản và xác định các bất động sản cần thẩm định đầy đủ.

Sự tiến hóa của các nguyên tắc

Khi khuôn khổ pháp lý và quy định của liên bang và tiểu bang tiếp tục phát triển, San Francisco cung cấp các hướng dẫn sơ bộ này cho nhân viên sử dụng AI tạo sinh trong hoạt động của thành phố. Nhân viên thành phố phải hiểu và luôn nhận thức được cả rủi ro tiềm ẩn và lợi ích khi công nghệ và các chính sách quản lý công nghệ thay đổi.

Các hướng dẫn này được thiết kế để cung cấp hướng dẫn đầy đủ cho nhân viên sử dụng các công cụ theo cách có trách nhiệm, nâng cao dịch vụ công mà không kìm hãm sự đổi mới. Tài liệu này đại diện cho bước đầu tiên trong một quy trình mở rộng nhằm hiểu, kiểm tra và đánh giá việc sử dụng AI rộng rãi trong chính quyền thành phố San Francisco. Các bước tiếp theo bao gồm một cuộc khảo sát toàn diện về việc sử dụng AI hiện tại và được đề xuất của các sở ban ngành thành phố, các cuộc họp với các chuyên gia trong lĩnh vực AI và việc thành lập một cộng đồng người dùng, cùng với các nhiệm vụ khác, để tối đa hóa lợi ích và giảm thiểu rủi ro của Trí tuệ nhân tạo trong việc cung cấp dịch vụ cho cư dân và du khách của San Francisco.

Phần kết luận

Trí tuệ nhân tạo tạo ra đang phát triển nhanh chóng và các khuôn khổ pháp lý và quy định ở cấp tiểu bang và liên bang tiếp tục phát triển. Để phục vụ công chúng tốt nhất, duy trì niềm tin của công chúng và bảo vệ an ninh cho các hệ thống và dữ liệu của thành phố, nhân viên thành phố phải nhận thức được những rủi ro và hạn chế tiềm ẩn của công nghệ này, đồng thời khám phá những lợi ích tiềm ẩn của Trí tuệ nhân tạo tạo ra trong việc cung cấp dịch vụ công.

Mặc dù các hướng dẫn này có mục đích giáo dục nhân viên thành phố về việc sử dụng AI tạo sinh có trách nhiệm, nhưng chúng chỉ là khởi đầu. Văn phòng Quản trị viên Thành phố sẽ tiếp tục làm việc với thị trưởng, các sở ban ngành của thành phố, các nhà cung cấp công nghệ của thành phố và các chuyên gia bên ngoài để hỗ trợ sở ban ngành sử dụng công nghệ AI, quản lý rủi ro và bảo vệ dữ liệu của cư dân và thành phố. Các hành động trong tương lai bao gồm:

• Phát triển các hướng dẫn chi tiết hơn và đào tạo nhân viên về các cách sử dụng AI cụ thể Phát triển các nguyên tắc sử dụng AI có đạo đức, minh bạch và đáng tin cậy
• Xác định quy trình quản trị AI và giám sát tác động
• Điều chỉnh quy trình mua sắm cho các công cụ AI
• Thu thập và ghi chép các trường hợp sử dụng của phòng ban và hỗ trợ họ trong việc quản lý rủi ro
• Tiếp tục bảo vệ dữ liệu của Thành phố và cư dân trong khi làm việc với các nhà cung cấp công nghệ
• Tìm kiếm chuyên môn bên ngoài từ những người áp dụng AI trong khu vực công và các học giả khác
• Chia sẻ kinh nghiệm với các đối tác chính phủ khác

Văn phòng Quản lý Thành phố sẽ xem xét lại và sửa đổi các hướng dẫn này. Nếu có thắc mắc, vui lòng liên hệ với Ủy ban Công nghệ thông tin theo địa chỉ COIT.staff@sfgov.org.

Thuật ngữ

Thuật toán: là một tập hợp các quy tắc mà máy tính tuân theo để tạo ra kết quả hoặc quyết định.

Trí tuệ nhân tạo (AI) : là một nhóm công nghệ có thể thực hiện các nhiệm vụ nhận thức phức tạp như nhận dạng và phân loại hình ảnh hoặc cung cấp năng lượng cho xe tự hành. Nhiều hệ thống AI được xây dựng bằng các mô hình học máy. Đối với một nhiệm vụ như nhận dạng hình ảnh, mô hình học các mẫu pixel từ một tập dữ liệu lớn gồm các hình ảnh hiện có và sử dụng các mẫu này để nhận dạng và phân loại hình ảnh mới.

Khả năng kiểm toán cho AI: AI có đầu ra có thể giải thích được, được giám sát và xác thực thường xuyên.

Bard: là một chatbot AI thế hệ mới được Google xây dựng

Mô hình hộp đen : là mô hình mà bạn không thể xác định hiệu quả cách thức hoặc lý do tại sao một mô hình tạo ra một kết quả cụ thể.

Chatbot: là chương trình máy tính mô phỏng các cuộc trò chuyện. Chatbot đã xuất hiện trong vài thập kỷ. Các chatbot cơ bản (không có Gen AI) sử dụng ML để hiểu lời nhắc của con người và cung cấp các câu trả lời ít nhiều theo kịch bản có thể hướng dẫn người dùng trong suốt quá trình. Các chatbot Gen AI có thể cung cấp các câu trả lời theo kiểu trò chuyện giống con người hơn.

chatGPT: là một chatbot AI thế hệ đàm thoại được xây dựng bởi OpenAI

Dall-e : là một ứng dụng AI thế hệ mới có thể tạo ra hình ảnh dựa trên lời nhắc văn bản

AI phân biệt: Trái ngược với AI thông thường, các mô hình AI phân biệt không tạo ra nội dung mới nhưng có thể được sử dụng để dự đoán số lượng (ví dụ: dự đoán giá nhà) hoặc để chỉ định thành viên nhóm (ví dụ: phân loại hình ảnh).

Trí tuệ nhân tạo (Gen AI): là một nhóm công nghệ có thể tạo ra nội dung mới dựa trên lời nhắc của người dùng. Nhiều công nghệ được hỗ trợ bởi LLM.

Mô hình ngôn ngữ lớn (LLM) : là một loại mô hình học máy được đào tạo bằng cách sử dụng một lượng lớn dữ liệu văn bản. Các mô hình này học các mẫu và cấu trúc ngôn ngữ có sắc thái. Điều này cho phép mô hình hiểu lời nhắc do người dùng tạo ra và cung cấp phản hồi văn bản mạch lạc. Các phản hồi dựa trên việc dự đoán từ có khả năng xảy ra nhất trong một chuỗi các từ và do đó, câu trả lời không phải lúc nào cũng đúng về mặt ngữ cảnh. Các tập dữ liệu đào tạo được sử dụng để xây dựng các mô hình này có thể chứa các thành kiến về giới tính, chủng tộc, chính trị và các thành kiến khác. Vì các mô hình đã học từ dữ liệu có thành kiến, nên đầu ra của chúng có thể phản ánh các thành kiến này. Các ứng dụng AI tạo sinh được xây dựng bằng cách sử dụng các LLM này.

Học máy (ML): là phương pháp học các quy tắc của thuật toán dựa trên dữ liệu hiện có.

7Mô hình học máy : là một thuật toán được xây dựng bằng cách học các mẫu trong dữ liệu hiện có. Ví dụ, một mô hình học máy để dự đoán giá nhà được xây dựng bằng cách học từ dữ liệu lịch sử về giá nhà. Mô hình có thể học được rằng giá tăng theo diện tích, thay đổi theo khu phố và phụ thuộc vào năm xây dựng.

Xác thực mô hình: phương pháp xác định xem kết quả do mô hình học máy tạo ra có khách quan và chính xác hay không.

Dữ liệu đào tạo: Bộ dữ liệu được mô hình học máy sử dụng để học các quy tắc.