Главният икономист на Microsoft Майкъл Шварц заяви, че изкуственият интелект (AI) неизбежно ще навреди на човечеството без ясни правила и ограничения. Това съобщава Bloomberg.
„Принципът е прост – ползата за обществото трябва да надвишава потенциалната вреда за човечеството“, казва Шварц. Топ мениджърът на корпорацията посочва, че е важно „да не се отива твърде далеч“, когато се въвеждат забрани за разработването на изкуствения интелект.
Microsoft вече работи върху правила за безопасно използване на AI, коментира той. Майкъл Шварц посочва, че изкуственият интелект неизбежно ще попадне в ръцете на злоумишленици и това може да доведе до щети.
Топ мениджърът пояснява, че спамът и намесата в изборите са само някои от приложенията на AI, които могат да навредят на човечеството.
Шварц заключава, че опитът на националните власти да повлияят пряко върху масивите от данни, използвани за обучение на системите за изкуствен интелект, би имал „катастрофални последици“ за цялата индустрия.
Администрацията на президента на САЩ Джо Байдън покани ръководителите на най-големите американски ИТ корпорации в Белия дом, за да обсъдят „ключови въпроси по темата за изкуствения интелект“. Това съобщава Ройтерс.
Известно е, че поканите са получили ръководители на компании като Google, Microsoft, OpenAI и Anthropic. Всички те ще се срещнат в Белия дом с вицепрезидента на САЩ Камала Харис.
По-специално, темата на разговора ще бъде сигурността на технологиите с изкуствен интелект. В поканата, която беше получена от лидерите на ИТ гигантите, се посочва, че „е необходимо да се стигне до ясно разбиране за сигурността на AI, преди тези технологии да бъдат публично достъпни“.
Ройтерс пише fye, че правителството на САЩ е загрижено за проблемите с поверителността и дезинформацията, които създават генеративните невронни мрежи. Белият дом смята, че технологичните компании трябва да носят отговорност за сигурността на своите AI продукти.
По-рано стана известно, че компютърният учен Джефри Хинтън, който е наричан „кръстникът на изкуствения интелект“, се оттегли от поста вицепрезидент на Google през април тази година. Според Хинтън, той е предприел тази стъпка, за да предупреди човечеството за опасностите от изкуствения интелект, съобщава порталът Engadget.
Хинтън е убеден, че по-нататъшното неконтролирано развитие на генеративен AI и чатботове като ChatGPT ще доведе до загуба на работни места, както и до широко разпространена дезинформация. Освен това ученият изрази недоволството си от факта, че Google изостави предишните ограничения върху AI, за да се конкурира с други ИТ гиганти, които активно рекламират собствените си чатботове.
Хинтън казва още, че позицията му по отношение на AI започна да се променя миналата година, когато Google, OpenAI и други компании започнаха да създават програми, които могат да надминат човешкия интелект. През последните пет години AI се разви толкова бързо, че ученият е „ужасен“ от това, което може да се случи през следващите пет години.
След изявлението на Хинтън, говорител на Google каза, че корпорацията все още е ангажирана с „отговорен подход“ към изкуствения интелект и следи всички „възникващи рискове“.
