XMASKNEWS
Aktualizacja:
aiweeklyEN→PLAI

OpenAI nawiązuje współpracę z Hacktron w celu przeprowadzania testów red-teamowych i przyznaje dostęp do modeli Daybreak Red

OpenAI ogłosiło partnerstwo z firmą Hacktron, której badacze będą współpracować z inżynierami w celu wykrywania podatności w systemach firmy.

OpenAI nawiązało oficjalną współpracę z firmą bezpieczeństwa Hacktron. Badacze z tej organizacji będą wspólnie z inżynierami OpenAI szukać luk w zabezpieczeniach, ze szczególnym uwzględnieniem interakcji systemów z usługami zewnętrznymi. Współpraca ta ma na celu wzmocnienie odporności infrastruktury sztucznej inteligencji.

Relacja ta nie jest przypadkowa, ponieważ Hacktron wykazał się wysokimi kompetencjami już we wrześniu. Wówczas badacze tej firmy wykorzystali łańcuch dwóch podatności, aby przejąć konta ChatGPT należące do kilku pracowników OpenAI. Za to odkrycie firma otrzymała nagrodę w ramach programu bug bounty w wysokości 6500 dolarów.

W ramach nowej umowy zespół Hacktron otrzyma rozszerzony dostęp do najbardziej zaawansowanych modeli OpenAI poprzez program Daybreak Red. Jest to specjalny poziom współpracy przeznaczony do ściśle nadzorowanych testów penetracyjnych oraz działań typu red teaming. Dzięki temu eksperci będą mogli testować granice możliwości modeli AI w kontrolowanym środowisku.

Źródło: aiweekly
Przeczytaj oryginał (EN) ↗

Omówienie przygotowane automatycznie (AI) na podstawie artykułu aiweekly. Nie jest tłumaczeniem – szczegóły i pełny kontekst znajdziesz w oryginale.