Блокировка запрещенного контента осложняется тем, что система искусственного интеллекта затрудняется с определением понятия «порнография». Основатель компании Clarifai, занимающейся созданием алгоритма, объясняет, что сложнее всего научить машину распознавать мультипликационную порнографию.

Но, пока человеческий надзор справляется с фильтрацией сомнительного материала лучше, чем ИИ. Люди маркируют запретный контент, закладывая в компьютер огромное количество данных, обучают алгоритм различать нюансы.

Разработчики рассчитывают достичь порога, когда вмешательство людей будет сведено к минимуму.