Big Tech muốn có quy định về AI. Phần còn lại của Thung lũng Silicon tỏ ra hoài nghi.

Đối với những người bất đồng chính kiến ​​​​này, việc những người chơi lớn nhất trong lĩnh vực AI, chẳng hạn như Google, Microsoft và nhà sản xuất ChatGPT OpenAI chấp nhận quy định chỉ đơn giản là một mưu đồ hoài nghi của những công ty đó nhằm giành lấy lợi thế của họ với tư cách là những người dẫn đầu hiện tại, về cơ bản. kéo cái thang phía sau họ lên. Mối lo ngại của các nhà lãnh đạo công nghệ này tăng cao vào tuần trước, khi Tổng thống Biden ký một sắc lệnh hành pháp đưa ra kế hoạch yêu cầu chính phủ phát triển các hướng dẫn thử nghiệm và phê duyệt cho các mô hình AI – các thuật toán cơ bản thúc đẩy các công cụ AI “có tính sáng tạo” như chatbot và công cụ tạo hình ảnh. .

Garry Tan, người đứng đầu Y cho biết: “Chúng ta vẫn đang ở những ngày đầu của AI sáng tạo và điều bắt buộc là các chính phủ không được chỉ định trước những người chiến thắng và ngăn chặn sự cạnh tranh thông qua việc áp dụng các quy định khắt khe mà chỉ những công ty lớn nhất mới có thể đáp ứng”. Combinator, một vườn ươm khởi nghiệp có trụ sở tại San Francisco đã giúp nuôi dưỡng các công ty bao gồm Airbnb và DoorDash khi họ mới thành lập. Tan cho biết, cuộc thảo luận hiện tại chưa kết hợp đủ tiếng nói của các công ty nhỏ hơn, điều mà ông tin là chìa khóa để thúc đẩy cạnh tranh và tạo ra những cách an toàn nhất để khai thác AI.

Các công ty như công ty khởi nghiệp AI có ảnh hưởng Anthropic và OpenAI có mối liên hệ chặt chẽ với Big Tech và đã nhận được số tiền đầu tư khổng lồ từ họ.

Martin Casado, đối tác chung của công ty đầu tư mạo hiểm Andreessen Horowitz, công ty đã đầu tư sớm vào Facebook, Slack và Lyft, cho biết: “Họ không đại diện cho đại đa số những người đã đóng góp cho ngành này. Ông nói, hầu hết các kỹ sư và doanh nhân AI đã theo dõi các cuộc thảo luận về quy định từ xa, tập trung vào công ty của họ thay vì cố gắng vận động hành lang các chính trị gia.

Xem thêm : Gần như toàn bộ nhân viên OpenAI dọa nghỉ việc, theo Sam Altman về Microsoft

Casado nói: “Nhiều người muốn xây dựng, họ là những người đổi mới, họ là số đông thầm lặng”. Ông nói, lệnh hành pháp đã cho những người đó thấy rằng quy định có thể đến sớm hơn dự kiến.

Công ty đầu tư mạo hiểm của Casado đã gửi thư cho Biden bày tỏ mối quan ngại của mình. Nó được ký bởi các nhà lãnh đạo khởi nghiệp AI nổi tiếng bao gồm Giám đốc điều hành Replit Amjad Masad và Arthur Mensch của Mistral, cũng như các nhà lãnh đạo công nghệ có uy tín hơn như Giám đốc điều hành của công ty thương mại điện tử Shopify Tobi Lütke, người đã tweet “Quy định về AI là một ý tưởng khủng khiếp” sau mệnh lệnh điều hành đã được công bố.

Casado cho biết, việc yêu cầu các công ty AI báo cáo với chính phủ có thể sẽ khiến việc phát triển công nghệ mới trở nên khó khăn và tốn kém hơn. Casado và Andrew Ng, nhà tiên phong nghiên cứu AI, người đã giúp thành lập phòng thí nghiệm AI của Google, cho biết lệnh này cũng có thể ảnh hưởng đến cộng đồng nguồn mở.

Khi các công ty nỗ lực phát hành các công cụ AI mới và kiếm tiền từ chúng kể từ khi OpenAI phát hành ChatGPT gần một năm trước, các chính phủ đã phải vật lộn để tìm cách ứng phó. Nhiều phiên điều trần quốc hội đã đề cập đến chủ đề này và các dự luật đã được đề xuất tại các cơ quan lập pháp liên bang và tiểu bang. Liên minh Châu Âu đang sửa đổi quy định về AI đã được thực hiện trong vài năm và Anh đang cố gắng tự coi mình là một hòn đảo đổi mới thân thiện với AI, gần đây đã tổ chức một cuộc họp lớn gồm các nhà lãnh đạo chính phủ và doanh nghiệp để thảo luận về công nghệ.

Trong suốt các cuộc thảo luận, đại diện từ các công ty AI mạnh nhất đã thẳng thắn nói rằng công nghệ này tiềm ẩn những rủi ro nghiêm trọng và họ rất mong muốn có quy định. Các công ty cho biết việc ban hành quy định tốt có thể tránh được những kết quả xấu, khuyến khích đầu tư nhiều hơn vào AI và khiến người dân thoải mái hơn với công nghệ tiến bộ nhanh chóng. Đồng thời, việc trở thành một phần của cuộc thảo luận về quy định mang lại cho các nhà lãnh đạo doanh nghiệp tầm ảnh hưởng đối với các loại quy tắc được phát triển.

Giám đốc điều hành OpenAI Sam Altman cho biết tại phiên điều trần quốc hội vào tháng 5: “Nếu công nghệ này gặp trục trặc, nó có thể trở nên cực kỳ sai lầm”. Các nhà lập pháp bao gồm Lãnh đạo đa số Thượng viện Charles E. Schumer (DN.Y.) cho biết họ muốn sớm điều chỉnh AI, thay vì thực hiện một cách tiếp cận thoải mái hơn như chính phủ đã làm với mạng xã hội.

OpenAI đặt tham vọng cạnh tranh với Big Tech

Xem thêm : Gần như toàn bộ nhân viên OpenAI dọa nghỉ việc, theo Sam Altman về Microsoft

Vài ngày sau lệnh hành pháp của Biden, các đại diện chính phủ tham dự Hội nghị Thượng đỉnh An toàn AI do Vương quốc Anh tổ chức đã ký một tuyên bố ủng hộ ý tưởng trao cho chính phủ vai trò trong việc thử nghiệm các mô hình AI.

“Cho đến nay, những người duy nhất thử nghiệm tính an toàn của các mô hình AI mới là chính các công ty đang phát triển nó. Thủ tướng Anh Rishi Sunak cho biết trong một tuyên bố: “Chúng ta không nên dựa vào việc họ tự chấm bài tập về nhà, như nhiều người trong số họ đồng ý”.

Demis Hassabis, Giám đốc điều hành bộ phận AI DeepMind của Google và Dario Amodei, Giám đốc điều hành của Anthropic, đều bày tỏ sự ủng hộ của họ đối với tuyên bố này. Người phát ngôn của Google và Anthropic không bình luận. Người phát ngôn của Microsoft từ chối bình luận nhưng chỉ ra lời khai trước quốc hội từ phó chủ tịch kiêm chủ tịch của công ty, Brad Smith, nơi ông ủng hộ ý tưởng cấp phép AI cho một cơ quan chính phủ độc lập.

Người phát ngôn của OpenAI từ chối bình luận nhưng đề cập đến một tweet từ Altman, nơi ông nói rằng mặc dù ông ủng hộ quy định đối với các công ty AI lâu đời hơn đang hoạt động trên các mô hình AI mạnh mẽ, nhưng các chính phủ nên cẩn thận để không gây tổn hại đến cạnh tranh.

Nhiều bước đột phá lớn về công nghệ trong vài thập kỷ qua đã xảy ra nhờ các nhà phát triển đã cung cấp công nghệ của họ cho người khác sử dụng miễn phí. Giờ đây, các công ty đang sử dụng các mô hình AI nguồn mở để xây dựng các công cụ AI của riêng mình mà không phải trả tiền cho Google, OpenAI hoặc Anthropic để có quyền truy cập vào các mô hình của họ.

Với việc các nhà vận động hành lang của Big Tech đang làm việc chăm chỉ ở Washington, những công ty đó có thể tác động đến các quy định có lợi cho họ – gây bất lợi cho các công ty nhỏ hơn, Ng nói.

Những người chỉ trích các khuôn khổ pháp lý mới nổi cũng nói rằng chúng dựa trên những lo ngại thái quá về rủi ro của AI. Các nhà lãnh đạo AI có ảnh hưởng, bao gồm các giám đốc điều hành của OpenAI, Microsoft, Google và Anthropic đã cảnh báo rằng AI gây ra rủi ro ngang bằng với đại dịch hoặc vũ khí hạt nhân đối với xã hội loài người. Nhiều nhà nghiên cứu và doanh nhân AI nổi tiếng cho biết công nghệ này đang phát triển nhanh đến mức nó có thể sớm vượt xa trí thông minh của con người và bắt đầu đưa ra quyết định của riêng mình.

Ng, người hiện đang hối hận vì đã không đẩy lùi những lo ngại về “rủi ro hiện hữu” một cách mạnh mẽ hơn, cho biết những lo ngại đó, nổi bật tại hội nghị thượng đỉnh AI của Vương quốc Anh, giúp các chính phủ có cơ hội thông qua các quy định. “Tôi thấy khó mà tưởng tượng được loài người có thể tuyệt chủng như thế nào,” anh nói.