스스로 학습하는 인공지능을 만드는 방법. Google 전문가들은 완전히 자가 학습하는 인공 지능을 만들었습니다. 인공지능을 활용한 간단한 프로그램
중인류 문명의 가장 위대한 정신이 숙고해 왔던 많은 질문들은 시간이 지남에 따라 사소하고 명백해졌습니다. 그들은 다음에 포함되어 있습니다 학교 프로그램, 이를 이해하지 못하는 것은 정신 지체의 징후가 됩니다. 이는 지식 진화의 정상적인 과정이다. 그러나 '영원한'이라는 범주에는 아직 해결되지 않은 문제가 남아 있으며, 해결책이 있는지조차 알 수 없습니다. 여기에는 지능이 무엇인지, 인공 지능의 정의 및 이와 관련된 모든 것이 포함됩니다. 실용적인 질문. 이 분야의 현대 발전을 위한 과학적 기초는 Norbert Wiener의 연구였으며, 그는 그 기초가 다음과 같다는 것을 보여주었습니다. 정보 프로세스살아있는 유기체에서 발생하는 는 인공 자동 장치에서 시뮬레이션할 수 있는 복잡한 부정 및 긍정 피드백입니다.
인간 사고 발전사의 시간 척도를 적용하면 주제의 실질적인 중요성이 얼마 전부터 분명해졌습니다. 그러나 오늘날 Copernic이나 이미지 인식 시스템과 같은 "지능형 에이전트"는 거의 모든 컴퓨터에 이미 설치되어 있습니다. 이 질문이 길을 찾지 못한 이유 명확한 해결책지금까지 이를 이해하려면 "인공" 지능뿐만 아니라 "자연" 지능을 보유한 대다수의 운반자에게 기본이 되는 것과는 다른 사고의 다른 원리를 적용하는 것이 필요하다는 것입니다. 내부에서는 무언가를 이해할 수 없습니다. 외부적인 관점이 필요합니다. 오직 이 접근법만이 환경과의 상호작용에서 나타나는 현상을 설명할 수 있습니다. 즉, 우리가 생각하는 방식을 이해하려면 다르게 생각하거나 전혀 생각하지 않아야 합니다... 그리고 우리의 "철" 창조물이 이미 단순히 다음과 같이 취급되는 수준에 도달했기 때문에 이를 이해하는 것이 필요합니다. 기술적 장치는 수용할 수 없는 것으로 판명되어 전략적 실수로 이어질 수 있습니다.
기존 인공지능 시스템 분석을 시작하고 그에 대한 가정을 해보세요. 추가 개발인식 프로그램으로 가장 편리함 그래픽 이미지그리고 연설. 개별적으로 고려되는 이 작업은 인공 지능이나 일반적인 사고 능력이 무엇인지에 대한 질문에 아직 답을 제공하지 않지만 우리는 그것에 가까워질 수 있습니다. 철학적 작품에서 마르크스-레닌주의의 고전이 "호모 사피엔스"의 출현 문제를 언어 발달과 연결시킨 것은 우연이 아닙니다.
음성 처리에 관해 구체적으로 이야기한다면 Dragon Systems의 소프트웨어는 이미 이 문제를 실질적으로 해결했습니다. Microsoft의 Speech SDK 다섯 번째 버전은 이 회사의 모든 제품과 마찬가지로 훨씬 더 부피가 크고(시스템 디스크에서 500MB 이상!) 사용된 리소스를 요구하므로 받아쓰기에 적합한 품질을 제공할 수 있습니다. 몇 시간의 훈련과 발음 및 생성의 특성에 대한 시스템의 적응을 통해 단어 및 전체 구문의 안정적인 인식이 달성됩니다. 통계 모델사용자 연설. 또한 95-98%에 도달할 수 있습니다. 비교해 보면 아마도 사람은 음성을 더 정확하게 이해하지 못할 것입니다.
언급된 작동 원리 소프트웨어 제품거짓말 수학적 모델음향 신호를 숫자 시퀀스로 변환합니다. 각 숫자 시퀀스는 미리 로드된 사전의 단어에 해당합니다. 사전은 사용자에 의해 보완될 수 있으며, 목록에서 유사한 수치 매개변수를 가진 단어를 선택할 확률은 사용 빈도에 따라 달라집니다. 특정 사용자. 그래픽 패턴 인식, 표준 글꼴 ABBYY(Fine Reader)의 소프트웨어를 통해 대부분의 독자에게 알려진 손으로 쓴 텍스트를 읽기 쉽게 만드는 것도 동일한 원칙에 기초합니다.
그러나 인공 시스템과 자연 시스템 또는 생물학적 시스템 사이의 유사점은 순전히 피상적입니다. 즉시 용어에 확실성을 부여할 필요가 있습니다. 나열된 소프트웨어 제품의 경우 패턴 인식 또는 인식을 다루고 있지만 일반적으로 생물학적 시스템, 특히 인간에 대해 이야기할 때는 그들의 이해에 대해 이야기하는 것이 더 정확합니다. 차이점은 무엇입니까?
당신의 서투른 Russified "Dragon"(Dragon Systems)에게 지시할 때 "태양은 하늘에 밝은 파란색이었다"라는 인쇄된 문구를 쉽게 찾을 수 있습니다. 그리고 “드래곤”은 90%의 확률로 이 상징적 서열을 정확히 식별했다는 사실을 자랑스러워할 수 있습니다. 그의 관점에서 볼 때 “빛나는”과 “파란색”이라는 단어는 거의 동일하기 때문입니다. 프로그램이 더 많은 것을 고려한다면 전체 통계단어뿐만 아니라 문구로도 ( 최신 버전많은 Natural Speaking이 이미 이 작업을 수행하고 있습니다.) 학습 과정은 며칠이 아니라 몇 달이 걸릴 것입니다. 인간의 기준으로는 상당히 빠릅니다. 다음번그녀는 이 문구를 정확하게 쓸 것입니다. 그러나 "인정"의 원칙은 여전히 \u200b\u200b이해가 아닌 인식으로 남아있을 것입니다.
'이해'의 관점에서 볼 때, 우선 전체 색상 스펙트럼 중 파란색 음영만을 구별하는 개의 관점에서 내레이션이 나올 가능성을 배제할 필요가 있으며, 그러므로 태양은 실제로 "파란색으로 변"할 수 있습니다. 왜냐하면 태양이 머무르지 않기 때문에 다른 것이 없기 때문입니다. 그러나 진지하게 말하면, 해당 문구를 올바르게 이해하려면 묘사되는 현실의 이미지에 대한 아이디어가 필요합니다. 당신은 더위, 여름, 해변 또는 다른 상황의 감각을 경험하고 기억해야 합니다. 이 설명일어날 수도 있었습니다. 더욱이, 단어(언어 선택이 이해의 기본이 아니기 때문에 어떤 언어로 사용하는지는 중요하지 않습니다)는 이러한 현실을 반영할 뿐입니다. 우리의 "드래곤"(또는 다른 패턴 인식 시스템)의 관점에서 보면 온도 및 광 스펙트럼 센서를 장착하고 휴가 중에 안탈리아로 보낸다면 가능할 것입니다. 즉, 인간과 유사한 모든 감각을 제공하고, 적어도 5세 어린이의 삶의 경험에 대한 데이터베이스를 축적하기 위해 학습 과정을 거치게 하십시오. 결론은 간단합니다. 음성이나 기타 입력 정보에 대한 인간의 적절한 이해는 삶의 경험과 입력 장치가 동일한 경우에만 가능합니다. 결국, 인정 프로그램은 매우 완벽하고 적절할 수 있지만 그 자체로만 가능합니다. 그녀의 모든 "감각 기관"은 마이크와 키보드로 구성되어 있으며, 그녀의 인생 경험은 받아쓰기 동안 음성 패턴을 훈련하고 암기하는 시간입니다. 실제로 그녀는 그녀와 상호 작용하는 독특한 가상 "존재"로 "살았습니다" 주변 세계, "마스터"의 제한된 목소리.
그러나 이것만으로는 '이해'가 충분하지 않습니다. 인공 및 "자연" 지능 시스템의 가장 중요한 특징 중 하나는 자가 학습 능력입니다. 패턴 인식 시스템에서는 초기 훈련 외에도 설치된 사전기호 테이블에는 인식 오류를 수정하는 프로세스도 있으며, 이는 또한 기억되고 "인생 경험"의 일부가 됩니다. 그것은 훈련과 매우 흡사합니다. 사실, 여기서 인센티브의 가능성은 매우 제한적입니다. 올바르게 정의된 단어(또는 기호)는 "기본적으로" 통과하지만 오류가 발생하면 필요한 값을 수동으로 입력해야 하며 추가 교육이 필요할 수도 있습니다. 이 경우 시스템은 일반적으로 주어진 시퀀스가 올바르게 결정되었는지 여부에 신경 쓰지 않습니다. 부정적인 감정은 사용자 트레이너에게 있습니다. Pavlov의 개는 상황이 더 심각합니다. 올바른 동작 순서를 얻으려면 설탕을 얻지 만 실수로 감전 (또는 타격)을 당할 수 있습니다. 인식 오류를 수동으로 수정하는 것(또는 더 일반적으로는 "소유자" 관점에서 명령이나 신호에 대한 잘못된 반응을 수정하는 것)이 시스템에 "부정적인 감정"을 유발한다면 더 공정할 것입니다. 상상해 보세요 - 당신이 받아쓰기된 텍스트를 수정했는데, 당신의 "드래곤"이 그의 무능함에 대한 분노와 걱정으로 가엾게 비명을 지릅니다.
본질적으로 행동 반응을 개선하기 위한 두 가지 메커니즘이 있습니다(이 예에서는 받아쓰기되고 인식된 자료의 텍스트 형식 출력입니다). 가장 단순한 유기체의 경우 이는 주로 환경에 가장 적절하게 반응하는 개체가 가장 번식력이 뛰어나고 반응 자체가 유전암호에 고정되는 자연 선택의 원리입니다. 가장 발전된 대표자들과 그에 따라 더 복잡한 행동 반응의 경우 감정을 통한 동기 부여의 주요 메커니즘이 됩니다. 그것은 더 이상 육체적인 고통, 배고픔, 번식에 대한 욕구만이 아니라 고통과 기쁨의 온 세상이 종종 언뜻 보기에는 완전히 이해할 수 없는 이유로 사람을 움직이는 힘이 됩니다. 사람?) 자기 학습과 발전의 길을 따라 .
욥기(5장)를 기억합시다. “그러나 사람은 고난 중에 태어나서 위로 솟아오르는 불꽃과 같으니라.” 유일한 질문은 각각의 특정 삶에서 긍정적인 동기 또는 부정적인 동기(당근 또는 채찍)가 우세한지 여부입니다. 일반적으로 두 가지 옵션을 모두 처리해야 하지만 일반적으로 운에 따라...
이로 인해 세계관의 부적절함 외에도 두 번째 차이점이 발생합니다. 현대 시스템인공 지능은 개인과 종 수준 모두에서 개발에 대한 인센티브나 동기가 부족하다는 점입니다. 하지만 이 차이는 충분히 극복할 수 있다.
종 수준에서의 발달에 관해 이야기한다면, 완전한 의미에서 지능적이지는 않지만 인공 환경에서 자연 선택 과정을 통해 "후손"에게 전염시킬 수 있는 "돌연변이" 바이러스가 이미 알려져 있습니다. ” 포획을 방해하는 가장 해로운 특성입니다.
정서적 수준에서 개발을 위한 동기 부여 또는 인센티브 생성 문제도 완전히 해결 가능합니다. 이를 위해서는 긍정적이든 부정적이든 감정이 각각 긍정적이거나 부정적인 피드백일 뿐이라는 것을 이해하는 것으로 충분합니다. 자동 장치. 설명하겠습니다. 부정적인 감정, 또는 부정적인 피드백은 그것을 멈추고 싶은 욕구가 있는 과정입니다. 이에 따라, 긍정적인 감정, 또는 긍정적 피드백은 여러 번 지속되거나 반복되는 경향이 있는 프로세스입니다. 그들의 선택 기술적 구현플로트와 밸브가 있는 클래식 수세 탱크부터 현대식 전기 주전자에 이르기까지 거의 모든 장치에는 피드백 연결의 몇 가지 예가 포함되어 있습니다. 자연 및 자연 시스템은 문자 그대로 포화 상태입니다. 모든 종류의 옵션. 부정적인 피드백과 달리 긍정적인 피드백은 항상 포화되기 쉽다는 점, 즉 시간이 지남에 따라 또는 여러 주기를 반복한 후에 "긍정성"이 중단되는 경향이 있다는 점에 유의하는 것이 중요합니다. 이것은 기본적인 특징입니다. 순전히 일상적인 결론 - 고통은 끝이 없고 즐거움은 항상 제한되어 있습니다(“영원한 최고”는 달성할 수 없습니다). 그러므로 불행하게도 위의 욥기 인용문에는 우리가 원하는 것보다 더 많은 진리가 들어 있습니다. 그리고 요리 분야를 제외하고는 만족스럽고 만족스러운 주제가 주목할만한 것을 만들어낸다는 이야기를 들어본 적이 있습니까?
내부 모순, 갈등 및 불만은 항상 창의적인 환경의 표준이었습니다. 불만과 고통의 정도가 발전에 대한 충동으로 전환되는 일반적인 패턴을 도출하려고 노력할 수 있지만 범주가 너무 일반적이고 모호합니다. 한 가지 분명한 것은 진화론과 게임 이론을 적용하여 주 하나님이 되셨다는 것입니다. 최대한으로공동의 발전을 위해 우리 자신의 발전을 위해 상호 배타적인 욕구와 경험의 복합체를 우리에게 제공했습니다. 더욱이, 그 과정에 참여한 각 참가자의 개인적인 고통의 정도는 중요하지 않으며 장점도 아니지만, 최종 목표이 진행 상황은 오직 하나님만이 아십니다. 이 명백한 입장이 사랑이 많고 모든 것을 용서하시는 기독교 신의 이미지와 어떻게 결합될 수 있는지는 아직 명확하지 않습니다. 어쩌면 포럼의 누군가가 설명할 것입니다. Irina Bogushevskaya는 이 주제에 대해 다음과 같은 멋진 노래를 가지고 있습니다. "하늘은 우리에게 무슨 일이 일어나는지 상관하지 않습니다."... 세상에 대한 시적, 과학적 인식은 종종 동일한 결론으로 이어집니다.
하지만 지능의 징후가 있는 우리의 램과 "드래곤"으로 돌아가 보겠습니다. 배움을 자극하기 위해 우리에게 이런 일을 하신 주 하나님의 모범을 따라 그들에게 무한한 고통과 단기적인 기쁨의 기회를 준다면 어떨까요?
그러한 작업이 이미 진행 중인 것으로 밝혀졌습니다. 선택된 자극은 기본적인 배고픔이었습니다. 또는 그것이 무엇인지 모르는 사람들을 위해 설명하겠습니다. 특정 외부 구성 요소가 없을 때 존재가 중단될 수 있다는 생리적 느낌이었습니다. 우리는 특수 생물반응기에서 단백질과 탄수화물을 처리하여 전기를 추출하는 독특한 "Gastrorobots" 시리즈에 대해 이야기하고 있습니다. 영원히 배고픈 인간 창조물 중 첫 번째 기계는 탬파 대학교(사우스 플로리다)의 스튜어트 윌킨슨이 디자인한 츄츄(Chew Chew)입니다. 발명가 자신은 고기를 자신의 창조물에 이상적인 음식으로 생각하지만 현재로서는 "씹는 씹는"이 설탕 조각을 먹습니다. 동시에 실험실 기술자의 기쁨을 위해 그는 최소한의 "대변"을 남기기 때문입니다. 로봇의 주요 전략은 공부입니다. 환경- 음식을 감지하고 소비할 목적으로 아주 현실적입니다. 주변 세계에 대한 인식의 적절성은 조건부이며 초음파 소나의 도움으로 달성됩니다. "츄츄"는 아직 눈에 띄지 않게 몰래 접근할 수 없습니다. 각각 길이가 약 1m인 바퀴가 달린 트레일러 3개로 구성되어 있고 어린이용 기차처럼 보이기 때문입니다. 철도. 배터리는 지속적인 재충전이 필요하기 때문에 지속적인 배고픔은 그의 정상적인 상태입니다. 프로젝트의 지속은 물고기를 먹고 해안을 순찰하고 수영하는 사람들을 상어로부터 보호하도록 설계된 수중 차량이어야 합니다. 마치 프로그래머가 여기서 실수를 하지 않고 실제 강철 "턱"을 만든 것과 같습니다. 수영하는 사람은 상어보다 먹이가 더 쉽고 자율적인 "츄츄"는 쉽게 "쿠스코스"로 재훈련할 수 있기 때문입니다. 그리고 그가 표면 위에 떠다니는 무방비의 "창조자"를 볼 때 그의 영원히 배고픈 전자 두뇌에는 어떤 생각이 들까요?
인공 지능 분야의 과학 기술의 발전이 솔루션이 필요한 전체 문제 그룹을 생성한다는 것은 의심의 여지가 없습니다. 그 중에는 도덕적, 윤리적 문제도 있습니다. 더욱이, 배고픈 사람, 고기에 목마른 사람, "씹는 것"은 아마도 가장 중요한 것이 아닐 것입니다. 우리는 이 시리즈의 후속 기사에서 그 중 일부를 고려할 것입니다.
이제 나는 주변 사물, 동물, 사람을 다르게 보는 데 도움이 될 수 있는 결론을 내리고 싶습니다.
그것은 다음과 같습니다. 당신 옆에 있는 거의 모든 것에는 어느 정도 세상을 반영하고, 고통이나 기쁨을 느끼는 능력이 부여되며, 항상 인공적인 것은 아니지만 더 자주 지능의 징후를 보여줍니다. 완전히 자연적인 기원. 당신이 그들을 눈치채지 못한다고 해서 그들이 거기에 없다는 뜻은 아닙니다. 그것들은 세상에 대한 당신의 독특한 인식과 단순히 양립할 수 없습니다.
아마도 힌두 승려와 일부 고대 가르침을 따르는 사람들이 주변의 모든 물체에 생명을 불어넣고 "생각"하고, 고통받고, 기뻐할 수 있는 능력을 부여한다면 그렇게 틀린 것은 아닐 것입니다.
ALICE 인공지능 시스템은 인간처럼 말할 수 있는 소프트웨어입니다. 간단한 언어로, 장치 관리 및 학습이 가능합니다. 이 프로그램을 사용하면 컴퓨터와 통신할 수 있을 뿐만 아니라 실제 세계와 상호 작용할 수도 있습니다. 이 프로그램은 또한 Arduino 연결을 사용하여 시스템을 생성합니다. 똑똑한 집, 자동화 등
인공지능 프로그램 ALICE 다운로드설명:
인공지능 프로그램 ALICE - Electronically Logical 지능형 시스템. 인공지능 시스템 ELIS는 프로그램입니다. 간단한 언어로 사람처럼 말하고, 제어할 수 있는 소프트웨어입니다. 장치, 그리고 또한 배우십시오. 이 시스템아이처럼 배우고 정보에 입각한 대화를 수행할 수 있는 휴머노이드 시스템을 개발하는 데 중점을 두고 있기 때문에 보조자가 아닙니다.
이 프로그램을 사용하면 다음과 같이 통신할 수 있습니다. 컴퓨터, 물리적 세계와도 상호 작용합니다. 이 프로그램은 또한 Arduino 연결을 사용하여 스마트 홈 시스템, 자동화 시스템 등을 만듭니다.
인공지능 시스템 ELIS는 모듈식 원리를 기반으로 구축되었습니다. 시스템은 보편적이며 다음을 사용하여 기능을 확장할 수 있습니다. 모듈. 모듈은 단순한 것부터 복잡한 것까지 다양할 수 있습니다.
인공지능 프로그램 ALICE는 사람과 독립적으로 대화를 진행합니다.
그녀는 독립적으로 대화를 시작할 수 있고 이 작업을 여러 번 수행할 수 있으며 이는 이미 질문-답변 구조에 따라 작업하는 음성 비서와 구별됩니다. ALICE 인공지능 프로그램은 사람이 말한 대로 스스로 결정을 내리며, 모르면 훈련을 시킬 수 있습니다.
사용자와의 대화를 통해 시스템은 스스로 학습합니다. 시스템은 하나 또는 여러 질문에 대한 여러 답변을 기억하고 하나 또는 여러 답변에 대해 여러 질문을 가질 수 있습니다.
인공지능 프로그램 ALICE는 Arduino 플랫폼과 완벽하게 호환되므로 모든 장치를 제어할 수 있습니다. 시스템에 조명을 켜달라고 요청할 수 있으며, 시스템은 조명을 정확히 어디에서 켜야 하는지 묻지만, 조명을 즉시 켜도록 요청할 수도 있습니다. 특정 장소, 그러면 그녀는 다시 묻지 않을 것입니다.
인공지능 프로그램 ALICE도 실행할 수 있습니다. 타사 애플리케이션등.
모듈:
안에 현재인공 지능 프로그램 ALICE에는 다음 모듈이 포함되어 있습니다.
— 모듈 "지식" - WIKIPEDIA에서 정보를 검색하기 위한 모듈입니다. 시스템은 모든 장치, 객체 등을 알고 있습니다. 예를 들어 자전거가 무엇인지, 사과가 무엇인지 물어보면 시스템이 그것이 무엇인지 알려줄 것입니다.
— 모듈 "뉴스". 사용자의 관심분야에 대한 최신 뉴스. 어떤 뉴스를 물어보거나 뉴스를 말하면 시스템이 사용자에게 말하고 더 말할 필요가 있는지 묻습니다. 예라고 대답하면 더 많은 것을 알려줄 것입니다.
— "날씨" 모듈. 우리 도시의 오늘과 내일 날씨입니다. 온도, 습도, 풍속, 비가 올지, 서리가 올지 등을 확인할 수 있습니다. 오늘은 우산을 가져가야 할지, 아니면 오늘 반바지를 입어도 되는지 물어보셔도 되고,
— 모듈 "계산기". 이것을 사용하여 기준 치수, 시스템은 객체를 더하고, 빼고, 곱하고 나눌 수 있습니다. 예를 들어, 사과 2개에 사과 2개를 더하면 얼마인지 묻는 경우 시스템은 사과 4개라고 대답합니다. 개발 중인 모듈,
— 모듈 "알람 시계". 이 모듈을 사용하면 원하는 만큼의 알람을 설정할 수 있습니다. 알람 시계 설정 체계그것은 당신을 깨울 것입니다. 그냥 아침 7시에 일어나라고 말해야 해요. 개발 중인 모듈,
— 모듈 "답변 조정". 올바른 배치데이터베이스에 대한 지식,
— 모듈 "공휴일, 명일, 행사." 이 모듈을 사용하면 이름이 누구의 날인지, 어떤 휴일인지 알 수 있습니다.
— "토스트" 모듈. 이 모듈을 사용하면 시스템에서 다양한 토스트를 만들 수 있습니다. 물어보고 건배를 해야 합니다.
— 모듈 "일화". 시스템은 수천 개의 농담을 알고 있습니다. 그냥 농담을 해달라고 부탁할 수도 있고, 어른들을 위한 농담을 해달라고 요청할 수도 있고,
— 모듈 "시". 이 모듈은 시스템을 시인으로 바꿔줍니다. 그냥 구절을 낭송해 달라고 요청할 수도 있고, 성인을 위한 구절을 낭송해 달라고 요청할 수도 있습니다.
— 모듈 "격언". 시스템은 수천 개의 격언을 알고 있습니다. 그냥 그녀에게 격언을 말해달라고 부탁할 수도 있고, 어른들을 위한 격언을 말해 달라고 요청할 수도 있습니다.
— "조명 제어" 모듈. 사용하여 이 모듈의, 시스템은 아파트나 주택의 조명을 제어할 수 있습니다. 이렇게 하려면 Arduino와 Ethernet Shield를 연결해야 합니다.
— 모듈 "숫자 추측". 시스템은 숨겨진 숫자를 추측하려고 시도합니다. 예상되는 수치의 이름을 지정한 다음 그 수치가 그 이상인지 이하인지 알려주어야 합니다. 개발 중인 모듈,
— 모듈 "사용자". 이 모듈을 사용하면 사용자 데이터, 이름, 도시 등을 변경할 수 있습니다. 예를 들어, 이름을 변경하려면 내 이름이 Oleg라는 것을 기억하세요. 그녀는 다음을 기억할 것입니다.
— 모듈 "대화". 대화 분석. 일별 대화, 사용자 분석, 학습 등을 처리하는 모듈입니다.
참고: 인공지능 프로그램 ALICE를 예로 들어 기술을 설명합니다.
천연가스 수화물 - "가연성 얼음...
Kanazit은 복합 유리 원료입니다... 탄소나노콘 나노위성
커즈와일(Kurzweil)에 따르면, 주요 역사적 사건에 대한 패러다임 변화의 로그 규모는 기하급수적인 추세를 나타냅니다.
기술적 특이점 출현의 핵심 요소는 통제되지 않는 AI 자기 개선 주기의 시작이며, 새롭고 더 똑똑한 AI 세대는 이전 세대보다 더 빠르게 나타날 것입니다. Vernor Vinge의 특이점 이론에 따르면, 기하급수적인 자기 개선의 순환 속에서 지능이 폭발적으로 발전한 결과 초지능이 나타날 것이며, 이는 인간 마음의 능력을 훨씬 뛰어넘어 본질적으로 이해할 수 없는 것입니다. . 기술 진보의 추정을 기반으로 특이점이 시작된 다양한 대략적인 날짜가 제공됩니다. Ray Kurzweil은 이것이 2045년쯤에 일어날 것이라고 믿고 있으며(AI가 기하급수적으로 향상될 것이라고 생각하지는 않지만), 강력한 AI 전문가를 대상으로 한 설문 조사의 중앙값은 2040년입니다.
특이점은 예상보다 일찍 발생할 가능성이 높습니다. 엔지니어 출신 Google다른 회사의 AI 시스템 개발자는 핵심 영역, 즉 다른 AI 시스템을 설계하도록 설계된 AI 시스템을 만드는 과정에서 진행 상황을 보고하고 있습니다.
한 실험에서 Google Brain의 AI 연구자들은 음성 인식에서 가장 높은 결과를 보여줄 수 있는 방식으로 신경망의 신경 아키텍처를 설계하는 프로그램을 개발했습니다. 소프트웨어로 설계된 시스템은 다음과 같습니다. 최고의 결과인공 신경망보다
판 MIT 기술 검토최근 몇 달 동안 다른 AI 시스템을 설계하기 위한 AI 시스템을 만드는 데 성공했다는 보고가 비영리 OpenAI(Elon Musk의 자금 지원), 버클리 캘리포니아 대학 및 다른 인공 지능 부서를 포함한 여러 연구팀에서 보고되었습니다. Google 회사 - DeepMind. 분명 이 방향인데 과학적 연구가장 유망한 것 중 하나로 간주되며 많은 사람들이 성공하기를 원합니다.
에 따르면 MIT 기술 검토, 이러한 개발은 주로 경제적 목표를 추구합니다. AI 애플리케이션 설계를 위한 프로그램을 만들면 이러한 기술의 사용이 크게 가속화될 것입니다. 다른 지역경제. 이제 많은 기업에서는 AI 시스템을 구현할 여력이 없습니다. 직원 중에 그러한 역량을 갖춘 전문가가 없기 때문입니다. AI 전문가가 매우 부족한 것은 진부한 일입니다. 그러나 신경망은 거의 수많은 응용 분야에서 사용될 수 있습니다. 자동차 산업, 은행 부문, 통신, 보안 및 비디오 감시 시스템, 음성 및 동작 인식, 컴퓨터 비전 등을 위한 다양한 소비자 제품에 사용됩니다.
AI 시스템 개발 소프트웨어 방법을 사용하여이러한 부족한 프로그래머 중 일부를 교체할 수 있습니다.
AI가 인간보다 더 효율적인 신경망을 개발하는 것도 중요하므로, 이전에 인간 개발자가 작업했던 곳에서도 이러한 프로그램을 구현하는 것이 합리적입니다.
Google Brain 연구 그룹의 책임자인 Jeff Dean이 최근 이 주제에 대해 논의했습니다. 캘리포니아주 산타클라라에서 열린 AI Frontiers 컨퍼런스에서 그는 이러한 프로그래머 중 일부가 소프트웨어로 대체될 수 있다고 제안했습니다. 왜냐하면 현재 회사는 이러한 전문가에게 매우 높은 가격과 급여를 지불해야 하기 때문입니다. 심각한 부족.
예를 들어, 과학 기사 DeepMind의 "강화 학습 학습"에서는 연구자들이 "심층 메타 강화 학습"이라고 부르는 자가 학습 AI에 대한 일련의 실험을 설명합니다. 아이디어는 표준 강화 학습 신경망을 사용하는 것입니다. 피드백그래서 이 순환 신경망은 또 다른 순환 신경망에 대한 자체 패턴 없는 강화 학습 절차를 개발합니다.
실험 결과, 1차 신경망의 노력으로 탄생한 2차 신경망은 어떤 경우에는 1차 신경망이 갖지 못한 효율성과 품질을 보여주는 것으로 나타났습니다.
총계 과학적 연구 DeepMind는 이러한 7가지 실험을 설명합니다. 늘 그렇듯이 그들은 컴퓨터 게임 공간에서 돈을 보냅니다. 연구원들에 따르면, 다른 AI 프로그램의 도움으로 만들어진 유사한 AI 에이전트는 유사한 작업에 대해 이전에 획득한 지식을 사용하여 새로운 작업에 빠르게 적응할 수 있습니다. 또한 실험에 따르면 2차 AI 훈련 결과는 예측할 수 없는 것으로 간주될 수 있습니다. 해당 아키텍처는 1차 AI의 아키텍처에 의존하지 않으며 1차 AI와 매우 다를 수 있습니다. 특히 2차 AI는 개발자 자신이 알지 못하거나 고려하지 않은 환경의 기능을 활용할 수 있습니다.
DeepMind는 심층 메타 강화 학습 실험이 인간 두뇌 연구에 영향을 미친다고 믿습니다. 특히 “생물학적 강화 학습에서 도파민과 전두엽 피질의 각각의 역할을 이해하기 위한 통합 프레임워크를 제공합니다.”
AI가 스스로 학습한다는 아이디어는 이전에도 제시됐지만, 지금까지 과학자들은 이렇게 인상적인 결과를 보여주지 못했다. 예를 들어, 이 분야의 선구자 중 한 명인 요슈아 벤지오(Yoshua Bengio) 교수는 그러한 실험에는 너무 많은 것이 필요하다고 말합니다. 컴퓨팅 파워, 그래서 최근까지는 실질적인 의미가 없었습니다. 예를 들어 Google Brain 실험에서는 800개의 고성능 GPU를 사용하여 컴퓨터 비전용 AI 시스템을 설계하는 소프트웨어를 실행했습니다.
매사추세츠 공과대학(Massachusetts Institute of Technology) 연구진이 논문을 발표할 계획입니다. 원천실험에 사용된 프로그램입니다. 아마도 시간이 지남에 따라 이러한 도구를 사용하면 영향을 미칠 것입니다. 경제적 감각데이터 처리 모델을 개발하는 전문가의 부담도 줄어들 것입니다. 고도로 숙련된 프로그래머는 코딩에서 벗어나 고차원적인 아이디어에 집중할 수 있습니다.
GAM - 일반 연관 메모리(GAM)는 다른 유형의 연관 메모리(AM)의 기능을 결합한 시스템입니다. GAM은 입력 계층, 메모리 계층 및 연관 계층의 세 가지 계층으로 구성된 네트워크입니다. 입력 레이어는 입력 벡터를 받습니다. 메모리 계층은 입력 데이터를 유사한 클래스에 저장합니다. 연관 계층은 클래스 간의 연관 링크를 구축합니다. GAM은 이진 또는 비이진 정보를 저장하고 불러올 수 있으며, 다대다 연관을 구축하고, 정적 데이터와 시간 순서 정보를 모두 저장하고 불러올 수 있습니다. 입력 데이터가 불완전하거나 시끄러운 데이터가 있어도 정보를 기억할 수 있습니다. 정적 및 시간 순서 데이터와 함께 실시간 이진 데이터를 사용한 실험은 GAM이 효과적인 시스템. 사용한 실험에서는 휴머노이드 로봇 GAM이 실제 문제를 해결하고 데이터 구조 간의 연결을 구축할 수 있음을 보여줍니다. 다양한 크기(원본 링크).
새로운 STAR-SOINN(통계 인식 - 자기 조직화 및 증분 신경망) - 스마트 로봇을 구축하려면 사람, 환경 및 인터넷으로부터 일관되고 빠르게 학습하는 자율 로봇의 정신 시스템을 개발해야 합니다. 따라서 우리는 STAR-SOINN 네트워크를 제공합니다. 이는 실시간으로 학습하고 인터넷을 통해 추가로 학습할 수 있는 초고속 다중 모드 네트워크입니다. 우리는 이 교수법을 평가하기 위해 실험을 수행하고 그 결과를 다른 교수법과 비교했습니다. 그 결과, 단순히 조건을 추가하는 시스템에 비해 인식 정확도가 더 높은 것으로 나타났다. 또한 제안된 방법은 매우 빠르게 작동할 수 있다(물체를 연구하는 데 약 1초, 물체를 인식하는 데 약 25밀리초). 알고리즘은 알려진 객체의 속성 정보를 검색하여 '알 수 없는' 객체의 속성을 식별할 수 있었습니다. 마지막으로 우리는 이 시스템이 다음과 같은 잠재력을 가지고 있다고 결정했습니다. 기본 기술미래의 로봇을 위해.
SOIAM은 연관 메모리를 위한 SOINN의 변형입니다.
SOINN-PBR – if->then 조건을 사용하여 규칙을 생성하기 위한 SOINN 수정
AMD(Autonomous Mental Development)는 이 알고리즘을 사용해 다양한 문제 해결 방법을 학습하는 로봇입니다.
SOINN 알고리즘의 블록 다이어그램을 볼 수 있습니다.
잡지 링크 PDF 형식, 여러 유형의 SOINN 네트워크에 대한 설명이 영어로 제공되고 러시아어로 메모한 곳(잡지를 다음과 같이 포장했습니다. rar 아카이브, 원래 크기잡지 20MB(온라인 읽기), 아카이브 크기 13MB(다운로드 아카이브).
SOINN 네트워크의 여러 유형을 영어로 설명하고 러시아어로 메모한 곳을 설명하는 pdf 형식의 다른 잡지에 대한 링크(저는 잡지를 rar 아카이브에 포장했으며 잡지의 원래 크기는 4MB(온라인으로 읽기)입니다. 아카이브 크기는 2.5MB입니다(아카이브 다운로드).
안에 러시아어 인터넷 SOINN 네트워크에 관한 기사는 이 알고리즘에 따라 작동하는 로봇이 할당된 문제에 대한 해결책을 스스로 찾고, 문제 해결 방법이 설명되지 않은 경우 인터넷에 연결하여 검색하는 기사가 몇 개 있습니다. 거기에 대한 해결책을 위해. 하지만 알고리즘이나 코드의 예를 찾지 못했습니다. Robocraft에 관한 기사는 단 하나뿐이었습니다. 작은 예 OpenCV와 연계하여 SOINN 네트워크의 기본 알고리즘을 작동합니다. SOINN 네트워크를 실험해 본 사람이 있다면 가능하다면 코드를 살펴보는 것이 흥미로울 것입니다.
2006년에는 비지도 학습을 시도하기 위해 SOINN(Self-Organizing Incremental Network)이라는 증분 학습 방법이 제안되었습니다. SOINN은 비정상 데이터를 온라인으로 처리하고, 식별된 클러스터 수를 보고하고, 분포의 확률 밀도 함수를 기반으로 입력 데이터의 토폴로지 구조를 나타내는 데 능숙합니다. SOINN 네트워크의 변형을 제안한 Hasagawa는 자신의 네트워크 결과를 GNG 네트워크(신경 가스 확장)와 비교한 결과 GNG보다 SOINN 네트워크의 결과가 더 좋았습니다.
SOINN 네트워크에는 다음과 같은 문제가 있었습니다.
1. 두 개의 처리 레이어로 구성되어 있기 때문에 사용자는 네트워크 운영에 참여해야 했습니다. 사용자는 첫 번째 계층의 학습을 언제 중단할지, 두 번째 계층의 지식 습득을 언제 시작할지 결정해야 했습니다.
2. 그룹의 밀도가 높을 경우 네트워크는 이를 잘 인식하지만, 네트워크 그룹이 부분적으로 겹칠 경우 네트워크는 이를 하나의 그룹으로 인식하여 하나로 묶는다.
이러한 문제를 해결하고 네트워크 아키텍처를 단순화하기 위해 자체 구성이 향상된 SOINN 기반 네트워크가 제안되었으며 이를 ESOINN이라고 합니다.
SOINN에 대한 간략한 개요입니다.
Soinn은 두 개의 레이어로 구성된 네트워크로 구성됩니다. 첫 번째 계층은 입력 데이터의 분포 밀도를 연구하고 노드와 이들 사이의 연결을 사용하여 데이터 분포 결과를 나타냅니다. 두 번째 계층은 첫 번째 계층에서 분포 밀도가 가장 낮은 데이터를 검색하여 그룹을 정의하고, 첫 번째 계층보다 적은 수의 노드를 사용하여 연구 중인 데이터의 토폴로지 구조를 제공합니다. 두 번째 레이어가 훈련되면 SOINN은 발견된 그룹 수를 보고하고 입력 데이터를 가장 적합한 그룹에 할당합니다. 첫 번째와 두 번째 레이어는 동일한 알고리즘에 따라 작동합니다.
네트워크에 입력 벡터가 주어지면 입력 벡터에 가장 가까운 노드(승자)와 두 번째로 가까운 노드(두 번째 승자)를 찾습니다. 임계값 유사성 기준을 사용하여 네트워크는 입력 벡터가 승자 및 두 번째 승자와 동일한 그룹에 속하는지 여부를 결정합니다. 첫 번째 SOINN 레이어는 입력 분포 기준을 미리 알 수 없기 때문에 노드별로 유사성 임계값을 적응적으로 업데이트합니다.
일부 노드 i에 이웃 노드가 있는 경우 유사성 임계값 Ti는 이 노드 i와 해당 이웃 노드 사이의 최대 거리를 사용하여 계산됩니다.
ξ와 a1 또는 a2 사이의 거리가 유사성 임계값보다 크거나 입력 신호가 새 노드인 경우 이를 노드 집합 A에 추가하고 2단계로 이동하여 다음 입력 신호를 얻습니다. 임계값 T는 공식 1A 또는 1B를 사용하여 계산됩니다.
4. a1에 연결된 모든 링크의 수명을 1만큼 늘립니다.
5. 알고리즘 2를 사용하여 노드 a1과 a2 사이에 연결을 생성해야 하는지 여부를 결정합니다.
A) 연결을 생성해야 하는 경우: 노드 a1과 a2 사이에 연결이 존재하는 경우 이 연결의 수명을 0으로 설정합니다. 노드 a1과 a2 사이에 연결이 없으면 노드 a1과 a2 사이에 연결을 만들고 이 연결의 수명을 0으로 설정합니다.
B) 연결을 생성할 필요가 없는 경우: 노드 a1과 a2 사이의 연결이 존재하는 경우 노드 a1과 a2 사이의 연결을 삭제합니다.
6. 공식 4를 사용하여 승자의 밀도를 업데이트합니다.
7. 로컬 누적 신호 수에 1을 더하고,
8. 입력 신호의 전체 거리에 대한 분수로 승자 벡터와 해당 토폴로지 이웃의 가중치를 조정해 보겠습니다.
노드 a1의 모든 직접 이웃 i에 대해
조정은 학습 시간의 속도를 조정하기 위해 SOINN과 동일한 방식에 따라 발생합니다.
9. 변수에 미리 정의된 것보다 나이가 많은 연결을 찾아 삭제합니다.
10. 수량의 경우 입력 신호작동 중 매개변수 λ의 배수는 다음과 같습니다.
A) 알고리즘 1을 사용하여 각 노드의 하위 클래스 레이블을 업데이트합니다.
B) 다음과 같이 노이즈로 인해 발생한 노드를 제거합니다.
1. 집합 A의 모든 노드에 대해 노드 a에 두 개의 이웃이 있고 
을 선택한 다음 노드 a를 삭제합니다. 노드 세트 A의 노드 수입니다.
2. 세트 A의 모든 노드에 대해 노드 a가 하나의 이웃을 갖고 
을 선택한 다음 노드 a를 삭제합니다.
3. 집합 A의 모든 노드에 대해 노드 a에 이웃이 없으면 노드 a를 삭제합니다.
11. 학습 과정이 완료되면 알고리즘 3을 사용하여 노드를 여러 클래스로 분류합니다. 그런 다음 클래스 수, 각 클래스 벡터의 출력 프로토타입을 보고하고 훈련 프로세스를 중지합니다.
12. 학습이 아직 완료되지 않은 경우 비지도 학습 과정을 계속하기 위해 2단계로 넘어갑니다.
위에 표시된 알고리즘을 사용하여 먼저 입력 벡터에서 승자와 두 번째 승자를 찾습니다. 그런 다음 승자와 두 번째 승자 사이에 연결을 생성해야 하는지 여부를 결정하고 다음 사항에 따라 결정합니다. 내린 결정이러한 노드 간의 연결을 연결하거나 삭제합니다. 승자의 밀도와 가중치를 업데이트한 후 훈련 시간의 매 λ 기간마다 하위 클래스 레이블을 업데이트합니다. 그런 다음 노이즈로 인해 발생한 노드를 제거합니다. 여기서 잡음은 λ에 의존하지 않고 입력 데이터에만 의존합니다. 훈련이 완료되면 모든 노드를 서로 다른 클래스로 분류합니다. 훈련 과정에서는 훈련된 입력 벡터를 저장할 필요가 없습니다. 우리는 이 알고리즘이 다음을 구현할 수 있다는 것을 알 수 있습니다. 온라인 교육. 훈련 과정이 끝나면 입력 데이터가 네트워크에 공급되고, 네트워크가 유사한 데이터를 알고 있으면 새 데이터에 유사한 데이터 클래스가 할당됩니다. 새 데이터와 승자 또는 두 번째 승자 사이의 거리가 유사성 임계값보다 큰 경우 네트워크는 새로운 정보를 학습합니다. 새 데이터와 승자 또는 두 번째 승자 사이의 거리가 유사성 임계값보다 작다면 이는 입력 데이터가 이전에 잘 학습되었으며 이 경우 네트워크에 변화가 발생하지 않음을 의미합니다. 이 프로세스는 알고리즘을 증분 학습에 적합하게 만듭니다. 네트워크는 이전에 학습된 지식을 제거하지 않고 새로운 정보를 학습합니다. 따라서 미래에 학습된 지식을 학습할 계획이라면 네트워크를 재교육할 필요가 없습니다.
ESOINN 네트워크 제작자의 실험
실험 데이터세트.
우리는 먼저 SOINN 네트워크에 Hasegawa와 동일한 실험 데이터 세트 #1을 사용했습니다. 이 세트에는 두 개의 겹치는 가우스 분포, 두 개의 동심원 고리 및 사인 곡선이 포함되어 있습니다. 이 데이터 세트에는 10% 노이즈가 추가되었습니다. 고정 환경과 비고정 환경 모두에서 이러한 데이터 세트를 사용하면 2계층 SOINN은 5개의 클래스가 있다고 보고합니다. 각 클래스의 토폴로지 구조를 제공합니다. 고정된 환경에서는 온라인 네트워크 훈련을 위해 전체 데이터 세트에서 패턴을 무작위로 선택해야 합니다. 비정상 환경에서는 네트워크의 온라인 교육을 위해 원본 데이터 세트 1번의 5개 영역에서 패턴을 무작위가 아닌 순차적으로 선택해야 합니다(그림 1). 비정식 환경은 점진적인 온라인 학습 과정을 시뮬레이션하는 데 사용됩니다.
그림 1. 데이터 세트 #1
그림 2. 데이터세트 #1의 ESOINN 고정 환경
그림 3. ESOINN은 데이터 세트 #1의 고정 환경이 아닙니다.
동일한 데이터세트로 단일 레이어 ESOINN을 테스트합니다. 매개변수 λ=100, =100, c1=0.001 및 c2=1을 설정했습니다. 그림 2는 고정된 환경에서의 결과를 보여줍니다. 그림 3은 고정되지 않은 환경에 대한 결과를 보여줍니다. 두 환경 모두에서 ESOINN은 5개의 클래스가 있다고 보고하고 각 클래스의 토폴로지 구조를 제공했습니다. ESOINN은 동일한 실험 데이터 세트에 대해 SOINN과 동일한 기능을 구현할 수 있습니다.
그런 다음 세 개의 겹치는 가우스 분포를 포함하는 실험 데이터 세트 2(그림 4)를 사용하여 SOINN과 ESOINN을 모두 테스트했습니다. 이 데이터 세트에 10% 노이즈를 추가했습니다. 데이터세트에서는 영역 중첩 밀도가 높지만 이 데이터세트의 그림을 사용하면 여전히 시각적으로 세 가지 클래스로 나눌 수 있습니다. 고정된 환경에서는 데이터세트에서 샘플을 무작위로 선택하여 네트워크를 훈련합니다. 비정상 환경에서는 샘플이 세 가지 클래스에서 무작위가 아닌 순차적으로 선택됩니다. 첫 번째 단계에서는 네트워크를 훈련하기 위해 실시간으로 클래스 1에서 샘플을 선택합니다. 10,000번의 훈련 주기 후에는 클래스 2에서만 샘플을 선택합니다. 그리고 또 다른 10,000번의 훈련 반복 후에 클래스 3에서 샘플을 선택하고 온라인 훈련을 수행합니다. . 학습 과정이 완료된 후 노드를 여러 클래스로 분류하고 결과를 보고합니다.
그림 4. 데이터 세트 #2
그림 5. 데이터 세트 #2의 SOINN 고정 환경
그림 6. SOINN은 데이터 세트 #2에 대한 고정 환경이 아닙니다.
그림 5와 6은 SOINN의 결과를 보여줍니다(네트워크는 다음 매개변수: 매개변수 λ=200, =50, c =1 및 저널 Shen, F., & Hasegawa, O.(2006a)에 설명된 것과 동일한 기타 매개변수. 온라인 비지도 분류 및 토폴로지 학습을 위한 증분 네트워크입니다. Neural Networks, 19, 90–106.) 두 환경 모두에서 SOINN은 높은 중첩 밀도로 세 가지 클래스를 분리할 수 없었습니다.
그림 7. 데이터세트 #2에 대한 ESOINN 고정 환경
그림 8. ESOINN은 데이터 세트 #2에 대한 고정 환경이 아닙니다.
그림 7과 8은 ESOINN의 결과를 보여줍니다(네트워크 매개변수: 매개변수 λ=200, =50, c1=0.001 및 c2=1). SOINN 네트워크에 대해 제안된 개선 사항을 사용하여 ESOINN은 고밀도 중첩으로 세 가지 클래스를 분리할 수 있었습니다. 시스템은 입력 데이터 세트에 세 가지 클래스가 있다고 보고하고 각 클래스에 대한 토폴로지 구조를 제공했습니다. 실험 데이터 세트 #2에 대한 실험은 ESOINN이 클래스를 다음과 같이 분리할 수 있음을 보여줍니다. 고밀도 SOINN보다 겹치는 부분이 더 좋습니다.
실제 데이터
실제 데이터를 사용하기 위해 AT&T_FACE 데이터세트에서 10개의 클래스를 가져왔습니다. 각 클래스에는 10개의 예제가 포함되어 있습니다(그림 9). 각 이미지의 크기는 92x112픽셀이며 픽셀당 회색 레벨은 256입니다. 이러한 이미지의 벡터의 특징은 다음과 같습니다. 첫 번째 원본 92x112 이미지는 최근접 이웃 보간을 사용하여 23x28 이미지로 다시 테스트됩니다. 그런 다음 가우시안 방법을 사용하여 너비=4, q=2로 23x28 이미지를 평활화하여 23x28 특징 벡터를 얻었습니다(그림 10).
그림 9. 얼굴의 원본 이미지
그림 10. 원본 얼굴 이미지의 특징 벡터
고정된 환경에서는 데이터 세트에서 샘플이 무작위로 선택되었습니다. 비정상 환경의 경우 첫 번째 단계에서 클래스 1의 예가 네트워크에 입력되고, 1000회 훈련 반복 후에 클래스 2의 예가 네트워크 입력에 입력되는 식으로 진행됩니다. 네트워크 매개변수가 설정되었습니다: 매개변수 λ=25, =25, c1=0.0 및 c2=1.0. 두 환경 모두 ESOINN은 원본 데이터 세트에 10개의 클래스가 있다고 보고하고 각 클래스에 프로토타입 벡터(네트워크 노드)를 제공했습니다. 우리는 이러한 프로토타입 벡터를 사용하여 원본 훈련 데이터를 다양한 클래스로 분류하고 데이터에 대한 인식을 보고했습니다. SOINN과 비교하여 거의 동일한 정확한 데이터 인식률(정지 환경 90%, 비고정 환경 86%)을 얻었습니다.
그림 11. 수업 수 분포
SOINN과 ESOINN의 안정성을 비교하기 위해 두 네트워크 모두에 대해 1000번의 훈련 반복을 수행하고 클래스 수의 빈도를 기록했습니다. ~에 상단 패널그림 11은 SOINN의 결과를 보여주고, 그림 11의 하단 패널은 ESOINN의 결과를 보여줍니다. SOINN(2-16)의 클래스 수 분포는 ESOINN(6-14)보다 훨씬 넓습니다. 더욱이, SOINN의 숫자 10 근처의 빈도는 ESOINN보다 훨씬 낮습니다. 이는 ESOINN이 SOINN보다 더 안정적이라는 사실을 반영합니다.
실제 데이터의 두 번째 그룹에서는 광학 인식 손글씨 숫자 데이터베이스(optdigits)(www.ics.uci.edu ~mlearn/MLRepository.html)를 사용하여 SOINN 및 ESOINN을 테스트했습니다. 이 데이터 세트에는 43명이 작성한 10개의 클래스(손으로 쓴 숫자)가 포함되어 있으며, 30명이 작성한 것은 훈련 세트로 사용되고 나머지 13명은 테스트 세트로 작성됩니다. 훈련 세트에는 3,823개의 예시가 포함되어 있고 테스트 세트에는 1,797개의 예시가 포함되어 있습니다. 표본 크기는 64입니다.
그림 12. 손으로 쓴 숫자 결과. 상단 SOINN, 하단 ESOINN
먼저 훈련 세트를 사용하여 SOINN을 훈련했습니다(매개변수는 λ=200, =50 및 c =1.0으로 설정되었으며 다른 매개변수는 다른 저널에 설명되어 있음). 두 환경 모두에서 SOINN은 10개의 클래스가 있다고 보고했습니다. 위의 그림 12는 SOINN 벡터 결과의 일반적인 프로토타입을 보여줍니다. 그런 다음 SOINN 결과 벡터를 사용하여 테스트 데이터를 분류했습니다. 정지 환경에 대한 인식 수준의 정확도는 92.2%였습니다. 고정되지 않은 환경에 대한 올바른 인식 수준은 90.4%였습니다. 우리는 SOINN에 대해 100번의 테스트 주기를 수행했습니다. 클래스 수는 두 환경(고정식 및 비고정식) 모두에서 6~13개 범위였습니다.
우리는 ESOINN을 훈련시키기 위해 훈련 세트를 사용했습니다. 두 환경(λ=200, =50, c1=0.001 및 c2=1)에 대해 ESOINN은 12개의 클래스가 있다고 보고했습니다. 아래 그림 12에는 ESOINN 벡터 결과의 일반적인 프로토타입이 나와 있습니다. ESOINN은 1번을 2개의 클래스로 나누고, 9번을 2개의 클래스로 나누었습니다. 원본 이미지숫자는 숫자 1과 1'을 쓰는 것과 숫자 9와 9'를 쓰는 데 차이가 있습니다. SOINN은 샘플 1' 및 9'에 의해 생성된 노드를 제거했습니다. ESOINN은 이러한 겹치는 숫자 클래스 1과 1'(9와 9')을 분리할 수 있었으며 원본 데이터세트의 정보는 잘 보존되었습니다.
그런 다음 분류를 위해 ESOINN 프로토타입 벡터의 결과를 사용했습니다. 테스트 세트수업용 멜론. 정지된 환경에 대한 올바른 인식 수준은 94.3%, 비정지 환경에 대한 올바른 인식 수준은 95.8%였다. 우리는 ESOINN에 대해 100회의 테스트를 실시했습니다. 두 환경 모두 클래스 수는 10~13개입니다.
실제 손으로 쓴 숫자 데이터에 대한 실험을 통해 우리는 ESOINN이 SOINN보다 겹치는 클래스를 더 잘 분리할 수 있다는 것을 배웠습니다. ESOINN은 SOINN보다 더 높은 수준의 인지도를 제공하며 더 안정적입니다.
결론
본 논문은 개선된 확장형 자기조직화 방법을 제안했다. 신경망 SOINN을 기반으로 한 ESOINN. 2개의 레이어로 구성된 SOINN과 달리 ESOINN은 레이어가 1개만 있습니다. ESOINN은 정보를 점진적으로(점점적으로) 학습하는 데 능숙합니다. ESOINN 알고리즘에는 노드 간의 연결 생성 필요성을 결정하는 조건이 추가되어 네트워크가 서로 겹치는 클래스를 찾는 데 도움이 되었습니다. ESOINN은 추가 학습을 구현하기 위해 클래스 간 노드 삽입만 허용합니다. 이러한 이유로 ESOINN은 솔루션을 더 쉽게 찾고 SOINN보다 매개 변수가 적습니다. 일부 스무딩 기술을 사용하면 ESOINN이 SOINN보다 더 안정적입니다.
LVQ(Learning Vector Quantization)와 같이 겹치는 클래스를 분리하는 다른 방법도 있습니다. 이러한 방법은 지도 학습 방법에 속하며 모든 훈련 사례에 라벨을 지정해야 합니다. 그러나 훈련 중에 레이블이 지정된 데이터를 획득하려면 많은 리소스가 필요한 반면, 레이블이 지정되지 않은 데이터 샘플은 쉽고 빠르게 얻을 수 있습니다. 일부 지도 학습 방법을 사용하면 겹치는 클래스를 찾기 위해 지도할 필요가 없지만 레이블이 지정된 데이터를 사용할 필요가 없는 비지도 학습 방법을 찾는 것이 여전히 중요합니다. ESOINN과 SOINN은 비지도 학습 방법에 속하며 ESOINN이 작업을 잘 수행하는 클래스 중첩 영역을 자체적으로 추정할 수 있습니다. 또한, 중복되는 영역을 쉽게 찾아냅니다. 이 기능은 ESOINN을 일부 실제 응용 프로그램에 매우 유용하게 만듭니다.