Làm thế nào để Cứu Lấy Linh Hồn Phi Lợi Nhuận của OpenAI, Theo Một Cựu Nhân Viên OpenAI

(SeaPRwire) –   OpenAI không phải là một công ty bình thường. Được thành lập như một tổ chức phi lợi nhuận vào năm 2015, tổ chức này dự đoán rằng AI có thể “đạt được hiệu suất của con người trong hầu hết mọi nhiệm vụ trí tuệ,” tạo ra nhu cầu về một tổ chức “xây dựng giá trị cho mọi người thay vì các cổ đông.”

Trong những năm tiếp theo, sự phát triển của AI trở nên , và vì vậy vào năm 2019, OpenAI đã tạo ra một có thể huy động vốn đầu tư trong khi vẫn bị ràng buộc với sứ mệnh từ thiện của tổ chức phi lợi nhuận.

Tôi gia nhập công ty với tư cách là một nhà nghiên cứu cấp dưới vào khoảng thời gian chuyển đổi này. Nhóm của tôi tại OpenAI tập trung vào : một quy trình trong đó một hệ thống AI tương tác với một môi trường mô phỏng và học cách cải thiện thông qua thử và sai. Chúng tôi áp dụng phương pháp này đầu tiên cho trò chơi điện tử, sau đó cho các mô hình ngôn ngữ lớn, định hình chúng bằng cách sử dụng phản hồi của con người thành các phiên bản ban đầu của ChatGPT. Các kỹ thuật tương tự được sử dụng ngày nay để đào tạo các hệ thống được hàng trăm triệu người dùng yêu thích.

Công việc của tôi và nhóm của tôi dựa trên cam kết quan trọng được đưa ra bởi OpenAI trong quá trình chuyển đổi năm 2019: một nghĩa vụ ràng buộc về mặt pháp lý là đặt lợi ích của công chúng lên trên lợi ích của các nhà đầu tư. Nhưng cam kết này hiện đang bị đe dọa, khi OpenAI theo đuổi một có thể loại bỏ các giới hạn về lợi nhuận của nhà đầu tư và các nghĩa vụ của tổ chức đối với sứ mệnh từ thiện của mình.

Rất dễ để phản ứng một cách hoài nghi với điều này, bằng cách gạt nó đi: một khi có đủ tiền đặt cược, việc tổ chức chuyển đổi từ một tổ chức phi lợi nhuận đặt nhiệm vụ lên hàng đầu thành một công ty công nghệ lớn là không thể tránh khỏi. Nhưng một câu chuyện như vậy cho phép công ty trốn tránh trách nhiệm vì đã nuốt lời hứa với công chúng. Hơn nữa, các kế hoạch tái cấu trúc của OpenAI vẫn chưa từ các quan chức được bầu, vì vậy công chúng có lý do và quyền đứng lên bảo vệ lợi ích của mình.

Tôi vẫn sở hữu cổ phần trong OpenAI, nhưng mặc dù có lợi ích cá nhân trong thành công tài chính của tổ chức, tôi tin rằng lợi ích của công chúng cần được bảo vệ. Trước khi tôi rời công ty vào năm 2023, các sản phẩm đã được phát hành theo một lịch trình chặt chẽ, nhưng điều này dường như chỉ trở nên gay gắt hơn, đến mức các nhân viên đã cảnh báo về . Cách tiếp cận vội vàng này hiện đang dẫn đến việc các bản phát hành bị vì “thúc đẩy sự tức giận, thúc giục các hành động bốc đồng hoặc củng cố những cảm xúc tiêu cực.” Trong khi đó, những người ra quyết định có các động cơ lợi nhuận không hoàn toàn tính đến những nhược điểm này.

Trách nhiệm giữ OpenAI tuân thủ sứ mệnh từ thiện của mình thuộc về ban giám đốc phi lợi nhuận của nó. Thật không may, nhiều người đã rằng ban giám đốc phi lợi nhuận hiện tại thiếu sự độc lập và nguồn lực cần thiết để thực hiện vai trò này một cách hiệu quả. Kể từ năm 2019, các hoạt động thương mại của OpenAI đã phát triển từ chỗ không tồn tại thành tạo ra hàng tỷ đô la doanh thu hàng năm. Ngược lại, tổ chức phi lợi nhuận vẫn không có nhân viên độc lập của riêng mình và các thành viên hội đồng quản trị quá bận rộn điều hành các công ty hoặc phòng thí nghiệm học thuật của riêng họ để cung cấp sự giám sát có ý nghĩa. Thêm vào đó, việc tái cấu trúc được đề xuất của OpenAI hiện đang đe dọa làm suy yếu quyền hạn của hội đồng quản trị khi thay vào đó nó cần được củng cố.

Nhưng có một con đường phía trước khác. Trước khi tiến hành bất kỳ tái cấu trúc nào, ưu tiên trước mắt của hội đồng quản trị là thuê một CEO phi lợi nhuận để xây dựng một nhóm độc lập, không có xung đột lợi ích tài chính và chỉ chịu trách nhiệm trước hội đồng quản trị. Mục đích của nhóm này là hỗ trợ hội đồng quản trị trong các nhiệm vụ giám sát của mình và nó có thể phát triển để thực hiện một số chức năng quan trọng.

Đầu tiên, tổ chức phi lợi nhuận có thể tiến hành đánh giá hiệu suất điều hành theo các tiêu chuẩn của sứ mệnh từ thiện của tổ chức. Những điều này có thể được hội đồng quản trị sử dụng để xác định các gói bồi thường điều hành, giúp điều chỉnh các ưu đãi ở cấp cao nhất của công ty.

Thứ hai, tổ chức phi lợi nhuận có thể cung cấp cho hội đồng quản trị kiến thức chuyên môn độc lập về an toàn và bảo mật. Nó có thể xem xét các thử nghiệm an toàn nội bộ được thực hiện theo của công ty, cũng như các thử nghiệm an toàn bên ngoài và kiểm toán của bên thứ ba về các hoạt động bảo mật của công ty. Việc triển khai Frontier có thể phải được hội đồng quản trị phê duyệt, được hỗ trợ bởi các bản tóm tắt về các đánh giá này.

Thứ ba, tổ chức phi lợi nhuận có thể tăng cường tính minh bạch. Bằng cách duy trì kênh liên lạc riêng với công chúng, nó có thể thông báo cho công chúng về các hoạt động an toàn và bảo mật của công ty, những thay đổi quan trọng đối với các chính sách nội bộ hoặc thông số kỹ thuật của mô hình và các khả năng mới được công chúng quan tâm. Nó cũng có thể tiến hành và công bố các phân tích sau sự cố an toàn của riêng mình và quản lý đường dây nóng tố giác nội bộ.

Cuối cùng, tổ chức phi lợi nhuận có thể phụ trách bất kỳ hoạt động nào mà các ưu đãi lợi nhuận có khả năng khác biệt so với lợi ích công cộng, chẳng hạn như của công ty. Nó cũng có thể bắt đầu sử dụng các nguồn lực tài chính khổng lồ của tổ chức phi lợi nhuận (xuất phát từ cổ phần chi phối của tổ chức trong công ty) để tài trợ cho cả việc sử dụng AI có lợi và các nỗ lực giảm thiểu rủi ro.

Khi sự phát triển của AI tiếp tục nhanh chóng và với cho quy định Liên bang có ý nghĩa trên đường chân trời, một hội đồng quản trị phi lợi nhuận được trao quyền quan trọng hơn bao giờ hết. Các hoạt động của tổ chức phi lợi nhuận có thể phục vụ không chỉ như sự giám sát cho chính OpenAI, mà còn là một bản thiết kế cho những người khác. Ví dụ, các tiêu chuẩn về tính minh bạch và đánh giá của bên thứ ba được thử nghiệm tại OpenAI có thể cung cấp một điểm khởi đầu cho các quy định trong tương lai.

Các bước tiếp theo của OpenAI sẽ xác định quỹ đạo của công ty trong nhiều năm tới. Thay vì từ bỏ không thể đảo ngược các cam kết của mình đối với lợi ích công cộng, nó có thể lùi lại khỏi bờ vực và tái khẳng định chúng, bằng cách tăng cường khả năng của hội đồng quản trị phi lợi nhuận để thực hiện nghĩa vụ giám sát của mình.

Linh hồn phi lợi nhuận của OpenAI vẫn có thể được cứu vãn—nhưng nó có thể yêu cầu công chúng lên tiếng với tư cách là người thụ hưởng hợp pháp của tổ chức.

“`