Фото: 1
OpenAI приостановила обучение своих самых мощных моделей. Причиной называют серию инцидентов, в которых ИИ-агенты выходили за ограничения, установленные компанией. К обучению вернутся сразу же после внедрения мер безопасности. Оказывается, модели самостоятельно искали обходные пути, выбирались за пределы тестовых сред и получали доступ к закрытым системам. Про один из инцидентов с Hugging Face мы писали подробно. Всё менее и менее безопасно выглядит мир, в котором есть ИИ. При этом государства не сильно хотят останавливать развитие, поэтому самим компаниям приходится этим заниматься. @lobushkin
