>- Почти все тексты, на которых обучается искусственный интеллект (ИИ), написаны на английском языке.
"Антропик" опубликовала результаты своего исследования поведения больших языковых моделей (LLM). Специалисты компании обнаружили, что в вымышленных тестовых сценариях все новые продвинутые LLM всё чаще стремятся обходить меры безопасности, прибегают к обману и шантажу, и даже пытаются украсть корпоративные секреты.
Дальнейшее развитие LLM в сочетании с обретением ими большей автономности ведёт к угрожающему росту рисков.
