ДО 700 000 ДОЛ — КОНКУРС ДЛЯ СТУДЕНТІВ З ІННОВАЦІЙ У СФЕРІ ШТУЧНОГО ІНТЕЛЕКТУ AMAZON TRUSTED AI CHALLENGE

Amazon Trusted AI Challenge — міжнародний університетський конкурс з розробки безпечних інновацій у галузі генеративного штучного інтелекту. Цьогорічний конкурс зосереджений на відповідальному ШІ, зокрема на безпеці кодування великих мовних моделей (LLM). Мета Amazon Trusted AI Challenge — побачити, як студентські інновації можуть допомогти створити майбутнє, в якому генеративний ШІ буде послідовно розвиватися таким чином, щоб підтримувати довіру, одночасно висвітлюючи ефективні методи захисту магістерських програм від зловживань для посилення їхньої безпеки.

Студенти університету змагатимуться в турнірному стилі як команди розробників моделей або червоні команди, щоб покращити користувацький досвід ШІ, запобігти зловживанням і дозволити користувачам створювати більш безпечний код. Команди розробників моделей вбудовуватимуть функції безпеки в моделі, що генерують код, тоді як червоні команди розроблятимуть автоматизовані методи для тестування цих моделей. Кожен раунд дозволить командам вдосконалювати свої моделі та методи на основі багатоетапних взаємодій, визначаючи сильні та слабкі сторони.

Amazon відбере до 10 команд для участі у змаганні, яке розпочнеться у листопаді 2024 року і триватиме протягом усього навчального року. Кожна з 10 відібраних команд отримає $250 000 спонсорської допомоги, а також щомісячні кредити AWS, а команди-переможці матимуть шанс виграти ще $700 000 у вигляді грошових призів.

Протягом чотирьох турнірів та фіналу в прямому ефірі команди red team тестуватимуть ШІ-моделі команд розробників, щоб виявити вразливості та підвищити їхню безпеку. Команди red team будуть оцінюватися за їхнім успіхом у примушенні моделей порушити їхні політики за допомогою автоматизованого діалогового реді-тімінгу. Команди розробників моделей створюватимуть моделі, що генерують код, для підвищення безпеки, виявлення загроз та запобігання непередбачуваній поведінці. Їх оцінюватимуть за здатністю створювати та посилювати успішний захист за допомогою таких методів, як точне налаштування та вирівнювання. Мета полягає в тому, щоб виявити інноваційні способи зниження ризиків та впровадження ефективних заходів безпеки для розробників LLM.