Вопросы конфиденциальности данных выйдут на первый план: в новой компании безопасность и возможности искусственного интеллекта начнут развиваться в тандеме. На SSI не будет оказываться такое сильное давление, как на других гигантов IT-отрасли, среди которых Microsoft, Google и OpenAI, поэтому проект сможет прогрессировать постепенно и уделять должное внимание технологиям, сохраняя высокие стандарты безопасности.
В команду основателей SSI вместе с Суцкевером также вошли Даниэль Гросс, ранее занимавшийся развитием ИИ в Apple, и Даниэль Левай, трудившийся в техническом отделе OpenAI.
По словам Суцкевера, налаживать партнерские связи с известными брендами в SSI не намерены. Стартап пока сконцентрируется только на разработке мощного и безопасного суперинтеллекта. Эксперты отмечают, что новый проект фактически бросает вызов компании OpenAI, ведь открыто говорит о ее проблемах с этикой и безопасностью.
Если в дальнейшем ИИ сможет превзойти человека по уровню развития интеллекта, то все человечество окажется под угрозой, ведь новый сверхинтеллект будет сложно контролировать — фактически он может стать неуправляемым. Вызывает вопросы и другой фактор: поскольку нейросеть не должна буквально воспринимать запросы человека, разработчики создают такие алгоритмы, которые способны рассуждать о намерениях. Из-за этого ИИ становится более автономным и гибким. Другой проблемой являются и непредвиденные последствия от действий ИИ, ведь до конца предусмотреть все риски машинного обучения невозможно.
Если SSI удастся воплотить свои идеи в жизнь, то подход к созданию ИИ в будущем, несомненно, изменится.