Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7640185B2 - Information verification method and system - Google Patents
[go: Go Back, main page]

JP7640185B2 - Information verification method and system - Google Patents

Information verification method and system Download PDF

Info

Publication number
JP7640185B2
JP7640185B2 JP2020180497A JP2020180497A JP7640185B2 JP 7640185 B2 JP7640185 B2 JP 7640185B2 JP 2020180497 A JP2020180497 A JP 2020180497A JP 2020180497 A JP2020180497 A JP 2020180497A JP 7640185 B2 JP7640185 B2 JP 7640185B2
Authority
JP
Japan
Prior art keywords
gender
user
received
information
user account
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020180497A
Other languages
Japanese (ja)
Other versions
JP2021072119A (en
Inventor
ドングン ユ
ミンジュ ジョン
ミョンハン ユン
キルロ ハン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Line Plus Corp
Original Assignee
Line Plus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Line Plus Corp filed Critical Line Plus Corp
Publication of JP2021072119A publication Critical patent/JP2021072119A/en
Application granted granted Critical
Publication of JP7640185B2 publication Critical patent/JP7640185B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/34Microprocessors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/36Memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/38Displays

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Information Transfer Between Computers (AREA)

Description

本開示は、ビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法およびシステムに関するものであって、具体的には、インスタントメッセージングアプリケーションを介して受信されたユーザーの性別情報を検証する方法およびシステムに関するものである。 The present disclosure relates to a method and system for verifying information received via an instant messaging application that provides video calling services, and in particular, to a method and system for verifying a user's gender information received via an instant messaging application.

カメラが取り付けられたスマートフォン、タブレットPC、ラップトップ(laptop)コンピュータ、デスクトップコンピュータなどのようなユーザー端末の普及が拡大されている。また、最近の通信技術の発展により、ユーザーは、自分の端末を利用して撮影したイメージや映像を他人に容易に送信することができる。さらに、ユーザーは、自分の端末を利用して撮影した映像をリアルタイムで他人に送信したり、放送したりすることが可能であるため、ビデオ通話サービス(video call service)および個人放送サービスが広く利用されている。このような環境で匿名チャットサービスを利用する場合において、テキストチャットだけでなく、ビデオ通話サービスを利用しようとするユーザーの需要が増加している。 User terminals such as smartphones, tablet PCs, laptop computers, and desktop computers equipped with cameras are becoming more and more popular. In addition, recent developments in communication technology allow users to easily send images and videos taken using their own terminals to others. Furthermore, since users can send or broadcast videos taken using their own terminals to others in real time, video call services and personal broadcasting services are widely used. In the case of using anonymous chat services in this environment, there is an increasing demand from users to use not only text chat but also video call services.

一方、匿名チャットサービスの一部ユーザーは、自分の性別と異なる性別を入力した後、ビデオ通話を通じた匿名チャットサービスを利用する場合がある。このような偽りの性別に基づいて匿名チャットサービスの相手がマッチングされる場合、マッチングされた相手に不快感が提供され得るだけでなく、匿名チャットサービスの信頼度にも悪影響が及ぶことができる。このような偽りの性別を検査するために、モニタリング要員が直接アプリケーションを使用しながら偽りの性別で活動するユーザーを摘発したり、ユーザーから申告されたイメージを直接検査して摘発したりする方式が使用されている。しかし、このような検査作業は手動で行われるため、モニタリング要員の数に応じて検査可能なユーザーの規模が制限される可能性がある。また、モニタリング要員が自らの判断に基づいてユーザーの性別が偽りであるか否かを検証するため、モニタリング要員による検査結果に誤りが発生してしまうおそれもある。 Meanwhile, some users of anonymous chat services may use anonymous chat services through video calls after entering a gender different from their own gender. If a person is matched with an anonymous chat service based on such a false gender, not only may the matched person feel uncomfortable, but the reliability of the anonymous chat service may also be adversely affected. In order to check for such false gender, a method is used in which monitoring personnel directly use the application to expose users who act under a false gender, or directly inspect and expose the image declared by the user. However, since such inspection work is performed manually, the number of users who can be inspected may be limited depending on the number of monitoring personnel. In addition, since the monitoring personnel verify whether the user's gender is false based on their own judgment, there is a risk that the inspection results by the monitoring personnel may be incorrect.

韓国登録特許第10-1277322号Korean Patent No. 10-1277322

本開示は、前記のような問題点を解決するための情報検証方法、コンピュータプログラム、記録媒体およびシステム等を提供する。 This disclosure provides an information verification method, computer program, recording medium, system, etc. to solve the problems described above.

ユーザーアカウントに関連した性別を受信し、アプリケーションが動作される間にイメージセンサを通じて撮像されたユーザーの顔面が含まれたイメージに基づいて受信されたユーザーアカウントに関連した性別を検証する方法およびシステムが提供される。 A method and system are provided for receiving a gender associated with a user account and verifying the gender associated with the received user account based on an image including the user's face captured through an image sensor while an application is running.

インスタントメッセージングアプリケーションを介して受信または処理されたユーザーアカウントに関連した情報および/またはデータを収集し、収集されたユーザーアカウントに関連した情報および/またはデータに基づいてユーザーアカウントに関連した性別を検証する方法およびシステムが提供される。 A method and system are provided for collecting information and/or data associated with a user account received or processed via an instant messaging application and verifying the gender associated with the user account based on the collected information and/or data associated with the user account.

ユーザーアカウントに関連した性別を検証するために、ユーザーの顔面が含まれたイメージだけでなく、インスタントメッセージングアプリケーションを介して受信または処理されたユーザーアカウントに関連した情報および/またはデータを利用する方法およびシステムが提供される。 Methods and systems are provided that utilize facial imagery of a user as well as information and/or data associated with a user account received or processed via an instant messaging application to verify the gender associated with a user account.

なお、本願では、文脈上別意であることが明らかである場合を除き、「顔面」と「顔」は同義(face)であるものとする。 In this application, "face" and "face" are synonymous (face) unless the context clearly indicates otherwise.

本開示は、方法、システム、装置またはコマンドを格納するコンピュータ読み取り可能な記憶媒体を含む、多様な方式で具現されることができる。 The present disclosure may be embodied in a variety of ways, including as a method, system, device, or computer-readable storage medium storing the commands.

本開示の一実施例に係るユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法は、第1のユーザーアカウントに関連した性別を受信するステップと、アプリケーションが動作される間に、イメージセンサを通じて撮像された顔面が含まれたイメージを受信するステップと、受信されたイメージを人工ニューラルネットワークモデルに入力し、受信されたイメージ内に含まれた顔面に関連した性別を出力するステップと、出力された性別に基づいて受信された性別を検証するステップとを含む。 A method for verifying information received via an instant messaging application operating on a user terminal and providing a video calling service according to one embodiment of the present disclosure includes the steps of receiving a gender associated with a first user account, receiving an image including a face captured through an image sensor while the application is operating, inputting the received image into an artificial neural network model and outputting a gender associated with the face included in the received image, and verifying the received gender based on the output gender.

一実施例によると、人工ニューラルネットワークモデルは、複数の学習イメージを示すデータおよび複数の学習イメージ内の人物に対する性別を示すデータに基づいて機械学習を遂行して生成される。 According to one embodiment, the artificial neural network model is generated by performing machine learning based on data representing a plurality of training images and data representing genders of people within the plurality of training images.

一実施例によると、受信されたイメージは、衣服を含み、受信されたイメージ内に含まれた顔面に関連した性別を出力するステップは、受信されたイメージからイメージフィーチャー(image feature)を抽出するステップと、抽出されたイメージフィーチャーを人工ニューラルネットワークモデルに入力して性別を出力するステップとを含む。 According to one embodiment, the received image includes clothing, and the step of outputting a gender associated with a face included in the received image includes the steps of extracting image features from the received image and inputting the extracted image features into an artificial neural network model to output the gender.

一実施例によると、出力された性別に基づいて受信された性別を検証するステップは、出力された性別が受信された性別と異なる場合、受信されたイメージを別途のモニタリングシステムに提供するステップを含む。 According to one embodiment, the step of verifying the received gender based on the output gender includes the step of providing the received image to a separate monitoring system if the output gender differs from the received gender.

一実施例によると、出力された性別に基づいて受信された性別を検証するステップは、出力された性別が受信された性別と同一であり、出力された性別の信頼度が予め決定された信頼度以下である場合、受信されたイメージを別途のモニタリングシステムに提供するステップを含む。 According to one embodiment, the step of verifying the received gender based on the output gender includes a step of providing the received image to a separate monitoring system if the output gender is the same as the received gender and the reliability of the output gender is equal to or less than a predetermined reliability.

一実施例によると、別途のモニタリングシステムにおいて受信された性別が第1のユーザーアカウントに関連した性別と異なると判定された場合、ペナルティが第1のユーザーアカウントに対して付与される。 According to one embodiment, if the gender received in the separate monitoring system is determined to be different from the gender associated with the first user account, a penalty is applied to the first user account.

一実施例によると、情報検証方法は、第2のユーザーアカウントから第1のユーザーアカウントに対する評価情報を受信するステップをさらに含み、出力された性別に基づいて受信された性別を検証するステップは、受信された評価情報および出力された性別に基づいて受信された性別を検証するステップを含む。 According to one embodiment, the information verification method further includes a step of receiving evaluation information for the first user account from the second user account, and the step of verifying the received gender based on the output gender includes a step of verifying the received gender based on the received evaluation information and the output gender.

一実施例によると、情報検証方法は、第1のユーザーアカウントに関連した関心事情報を受信するステップをさらに含み、出力された性別に基づいて受信された性別を検証するステップは、関心事情報および出力された性別に基づいて受信された性別を検証するステップを含む。 According to one embodiment, the information verification method further includes receiving interest information associated with the first user account, and verifying the received gender based on the output gender includes verifying the received gender based on the interest information and the output gender.

一実施例によると、情報検証方法は、第1のユーザーアカウントが提供した、1つ以上の第2のユーザーアカウントに対する評価情報を受信するステップをさらに含み、出力された性別に基づいて受信された性別を検証するステップは、受信された第1のユーザーアカウントが提供した、1つ以上の第2のユーザーアカウントに対する評価情報および出力された性別に基づいて受信された性別を検証するステップを含む。 According to one embodiment, the information verification method further includes a step of receiving evaluation information for one or more second user accounts provided by the first user account, and the step of verifying the received gender based on the output gender includes a step of verifying the received gender based on the evaluation information for one or more second user accounts provided by the received first user account and the output gender.

一実施例によると、情報検証方法は、第1のユーザーアカウントと以前にマッチングされた相手である1つ以上の第2のユーザーアカウントを受信するステップをさらに含み、出力された性別に基づいて受信された性別を検証するステップは、受信された1つ以上の第2のユーザーアカウントに対する情報および出力された性別に基づいて受信された性別を検証するステップを含む。 According to one embodiment, the information verification method further includes a step of receiving one or more second user accounts that are previously matched with the first user account, and the step of verifying the received gender based on the output gender includes a step of verifying the received gender based on the received information for the one or more second user accounts and the output gender.

一実施例によると、情報検証方法は、第1のユーザーアカウントに対する申告情報を受信するステップをさらに含み、出力された性別に基づいて受信された性別を検証するステップは、受信された申告情報および出力された性別に基づいて受信された性別を検証するステップを含む。 According to one embodiment, the information verification method further includes a step of receiving declared information for the first user account, and the step of verifying the received gender based on the output gender includes a step of verifying the received gender based on the received declared information and the output gender.

一実施例によると、情報検証方法は、アプリケーション内で第1のユーザーアカウントに関連した複数のユーザーアカウントに対する情報を受信するステップをさらに含み、出力された性別に基づいて受信された性別を検証するステップは、第1のユーザーアカウントに関連した複数のユーザーアカウントに対する情報および出力された性別に基づいて受信された性別を検証するステップを含む。 According to one embodiment, the information verification method further includes receiving information for a plurality of user accounts associated with the first user account within the application, and verifying the received gender based on the output gender includes verifying the received gender based on the information for the plurality of user accounts associated with the first user account and the output gender.

一実施例によると、情報検証方法は、第1のユーザーアカウントに対するユーザー活動情報を収集するステップをさらに含み、出力された性別に基づいて受信された性別を検証するステップは、収集されたユーザー活動情報および出力された性別に基づいて受信された性別を検証するステップを含む。 According to one embodiment, the information verification method further includes a step of collecting user activity information for the first user account, and the step of verifying the received gender based on the output gender includes a step of verifying the received gender based on the collected user activity information and the output gender.

一実施例によると、第1のユーザーアカウントに対するユーザー活動情報は、第1のユーザーアカウントが第2のユーザーアカウントとのビデオ通話をする間に利用したブラー(blur)アイテム(item)、顔面効果アイテム、ロックイン(lock -in)アイテム、シェイク(shake)アイテムまたはステッカーアイテムのうち少なくとも1つに関するアイテムに対する情報を含む。 According to one embodiment, the user activity information for the first user account includes information on at least one of a blur item, a facial effect item, a lock-in item, a shake item, or a sticker item used by the first user account while making a video call with the second user account.

一実施例によると、第1のユーザーアカウントに関連した性別を受信するステップは、第1のユーザーアカウントがアプリケーションに加入される間に入力された性別または第1のユーザーアカウントに関連したアカウントに対する情報から抽出された性別のうち少なくとも1つの性別を受信するステップを含む。 According to one embodiment, receiving a gender associated with the first user account includes receiving at least one of a gender entered while the first user account was subscribed to the application or a gender extracted from account information associated with the first user account.

一実施例によると、顔面が含まれたイメージを受信するステップは、第1のユーザーアカウントがアプリケーションに加入された後に動作されるイメージセンサを通じて撮像される映像データに顔面が探知された場合、探知された顔面が含まれたイメージを受信するステップを含む。 According to one embodiment, the step of receiving an image including a face includes a step of receiving an image including the detected face when a face is detected in image data captured through an image sensor operated after the first user account is subscribed to the application.

一実施例によると、情報検証方法は、第1のユーザーアカウントと1つ以上の第2のユーザーアカウント間のテキストチャットの間に入力されたテキストを受信するステップをさらに含み、出力された性別に基づいて受信された性別を検証するステップは、受信されたテキストおよび出力された性別に基づいて受信された性別を検証するステップを含む。 According to one embodiment, the information verification method further includes receiving text entered during a text chat between the first user account and one or more second user accounts, and verifying the received gender based on the output gender includes verifying the received gender based on the received text and the output gender.

本開示の一実施例において前述されたユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法をコンピュータで実行するためのコンピュータプログラムが提供される。 In one embodiment of the present disclosure, a computer program is provided for executing a method for verifying information received via an instant messaging application that operates on the user terminal and provides a video call service.

本開示のビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証するシステムは、ユーザー端末から第1のユーザーアカウントに関連した性別を受信し、アプリケーションが動作される間にイメージセンサを通じて撮像された顔面が含まれたイメージを受信するように構成された通信モジュールと、受信されたイメージを人工ニューラルネットワークモデルに入力して受信されたイメージ内に含まれた顔面に関連した性別を出力し、出力された性別に基づいて受信された性別を検証するように構成されたプロセッサを含む。 The disclosed system for verifying information received via an instant messaging application providing a video calling service includes a communication module configured to receive a gender associated with a first user account from a user terminal and receive an image including a face captured through an image sensor while the application is operated, and a processor configured to input the received image into an artificial neural network model to output a gender associated with the face included in the received image, and verify the received gender based on the output gender.

一実施例によると、通信モジュールは、第2のユーザーアカウントから第1のユーザーアカウントに対する評価情報を受信するようにさらに構成され、プロセッサは、受信された評価情報および出力された性別に基づいて受信された性別を検証するようにさらに構成される。 According to one embodiment, the communication module is further configured to receive rating information for the first user account from the second user account, and the processor is further configured to verify the received gender based on the received rating information and the output gender.

本開示の一部実施例によると、インスタントメッセージングアプリケーションを介して受信されたユーザーの性別情報が検証されることによって、匿名ビデオチャットサービスを使用するユーザーが有し得る相手の性別に対する不信、さらに匿名ビデオチャットサービスに対する不信が最小化または解消されることができる。 According to some embodiments of the present disclosure, by verifying a user's gender information received via an instant messaging application, distrust that a user may have regarding the gender of the other party using the anonymous video chat service, as well as distrust toward the anonymous video chat service, may be minimized or eliminated.

本開示の一部実施例において、情報処理システムが、インスタントメッセージングアプリケーションを介して収集されたユーザーアカウントに対する情報に基づいてユーザーアカウントに関連した性別を分析することによって、ユーザーの性別に対する検査人力のコストを最小化することができる。 In some embodiments of the present disclosure, the information processing system can minimize the cost of manpower testing a user's gender by analyzing the gender associated with the user account based on information about the user account collected via an instant messaging application.

本開示の一部実施例によると、ユーザーの性別の検証作業が情報処理システムおよび別途のモニタリングシステム、すなわち2ステップのシステムを通じて行われるため、ユーザーの性別に対する検証結果のエラー率が低くなるか、または最小化されることができる。 According to some embodiments of the present disclosure, the verification of a user's gender is performed through an information processing system and a separate monitoring system, i.e., a two-step system, so that the error rate of the verification result for the user's gender can be reduced or minimized.

本開示の実施例は、以下で説明する添付図面を参照して説明され、ここで類似する参照番号は類似する要素を示すが、これに限定されない。
本開示の一実施例に係るインスタントメッセージングサービスを提供するために、情報処理システムが複数のユーザー端末と通信可能に連結された構成を示す概要図である。 本開示の一実施例に係るユーザー端末および情報処理システムの内部構成を示すブロック図である。 本開示の一実施例に係るビデオ通話サービスを提供してユーザーの性別を検証するように構成された情報処理システムの構成を示すブロック図である。 本開示の一実施例に係る入力イメージから入力イメージ内の人物または顔面に関連した性別を出力するように構成された人工ニューラルネットワークモデルを示す概略図である。 本開示の一実施例に係るユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法を示すフローチャートである。 本開示の一実施例に係る出力された性別に基づいて受信された性別を検証するステップの詳細なステップを示すフローチャートである。 本開示の一実施例に係るユーザーアカウントがインスタントメッセージングアプリケーションに加入される間に、ユーザーアカウントに関連した性別を受信する例示を示す図面である。 本開示の一実施例に係るインスタントメッセージングアプリケーションが動作される間に、イメージセンサを通じて撮像されたイメージから顔面イメージを探知してビデオ通話サービスの相手に対する条件を入力する例示を示す図面である。 本開示の一実施例に係るインスタントメッセージングアプリケーション内で、ユーザーの少なくとも一部が含まれたイメージにブラー処理を適用する例示を示す図面である。 本開示の一実施例に係るインスタントメッセージングアプリケーション内で、ユーザーの顔面が含まれたイメージに顔面効果処理およびステッカーアイテムを適用する例示を示す図面である。 本開示の一実施例に係るビデオ通話セッションを開始し、ビデオ通話セッション中にビデオ通話の相手を追加してテキストチャットを行う例示を示す図面である。 本開示の一実施例に係る相手とのビデオ通話セッション中に相手を評価する評価情報を送信し、相手から評価情報を受信する例示を示す図面である。 本開示の一実施例に係る相手とのビデオ通話セッション中に相手が出られないようにロックイン(lock-in)アイテムを使用する例示を示す図面である。 本開示の一実施例に係る相手とのビデオ通話中にユーザー端末のシェイクアイテムを使用する例示を示す図面である。 本開示の一実施例に係る相手とのビデオ通話セッション中に申告項目を送信する例示を示す図面である。 本開示の一実施例に係るユーザーアカウントに関連したメッセージおよび友人リストを照会する例示を示す図面である。 本開示の一実施例に係るユーザーアカウントに関連したプロフィール情報を出力する例示を示す図面である。 本開示の一実施例に係るユーザーアカウントとビデオ通話を行った1つ以上のユーザーアカウントを出力する例示を示す図面である。
Non-limiting embodiments of the present disclosure will be described with reference to the accompanying drawings, in which like reference numerals indicate like elements, as described below.
1 is a schematic diagram showing a configuration in which an information processing system is communicatively connected to a plurality of user terminals to provide an instant messaging service according to an embodiment of the present disclosure. 2 is a block diagram showing an internal configuration of a user terminal and an information processing system according to an embodiment of the present disclosure. FIG. FIG. 1 is a block diagram illustrating a configuration of an information processing system configured to provide a video calling service and verify a user's gender according to one embodiment of the present disclosure. FIG. 2 is a schematic diagram illustrating an artificial neural network model configured to output, from an input image, a gender associated with a person or face in the input image according to one embodiment of the present disclosure. 1 is a flowchart illustrating a method for verifying information received via an instant messaging application operating in a user terminal and providing a video call service according to an embodiment of the present disclosure. 10 is a flowchart illustrating detailed steps of verifying the received gender based on the output gender according to one embodiment of the present disclosure. 1 is a diagram illustrating an example of receiving a gender associated with a user account while the user account is being subscribed to an instant messaging application according to an embodiment of the present disclosure. 1 is a diagram illustrating an example of detecting a face image from an image captured through an image sensor and inputting requirements for a partner of a video call service while an instant messaging application according to an embodiment of the present disclosure is operated. 1 is a diagram illustrating an example of applying a blurring process to an image including at least a portion of a user in an instant messaging application according to an embodiment of the present disclosure. 1 is a diagram illustrating an example of applying facial effect processing and sticker items to an image including a user's face in an instant messaging application according to an embodiment of the present disclosure. 1 is a diagram illustrating an example of starting a video call session according to an embodiment of the present disclosure, adding a video call partner during the video call session, and performing text chat. 1 is a diagram illustrating an example of sending evaluation information evaluating a counterpart during a video call session with the counterpart and receiving evaluation information from the counterpart according to an embodiment of the present disclosure. 1 is a diagram showing an example of using a lock-in item to prevent a party from answering a video call session according to an embodiment of the present disclosure; 1 is a diagram showing an example of using a shake item of a user terminal during a video call with a partner according to an embodiment of the present disclosure. 1 is a diagram showing an example of sending a declaration item during a video call session with a partner according to an embodiment of the present disclosure. 1 is a diagram illustrating an example of querying messages and friend lists associated with a user account according to an embodiment of the present disclosure. 1 is a diagram illustrating an example of outputting profile information related to a user account according to an embodiment of the present disclosure. 1 is a diagram illustrating an example of outputting one or more user accounts that have made a video call with a user account according to an embodiment of the present disclosure.

以下では、本開示の実施のための具体的な内容を添付された図面を参照して詳細に説明する。ただし、以下の説明において、本開示の要旨を不必要に曖昧にする恐れがある場合には、広く知られた機能や構成に関する具体的な説明は省略することにする。 The specific contents for implementing the present disclosure will be described in detail below with reference to the attached drawings. However, in the following description, specific descriptions of well-known functions and configurations will be omitted if there is a risk of unnecessarily obscuring the gist of the present disclosure.

添付された図面において、同一または対応する構成要素には同一の参照符号が付与されている。また、以下の実施例の説明において、同一または対応する構成要素を重複して記述することが省略されることができる。しかし、構成要素に関する記述が省略されても、そのような構成要素がある実施例に含まれないものと意図されるのではない。 In the accompanying drawings, identical or corresponding components are given the same reference symbols. In addition, in the following description of the embodiments, duplicated description of identical or corresponding components may be omitted. However, even if a description of a component is omitted, it is not intended that such a component is not included in a certain embodiment.

開示された実施例の利点および特徴、そしてそれらを達成する方法は、添付される図面と共に後述されている実施例を参照すると明確になるだろう。しかし、本開示は、以下で開示される実施例に限定されるものではなく、互いに異なる多様な形態で具現されることができ、単に本実施例は本開示が完全であるようにし、本開示が属する技術分野における通常の知識を有する者に発明の範疇を完全に知らせるために提供されるだけのものである。 Advantages and features of the disclosed embodiments, and methods for achieving the same, will become apparent from the following detailed description of the embodiments in conjunction with the accompanying drawings. However, the present disclosure is not limited to the embodiments disclosed below, and may be embodied in various different forms, and the embodiments are provided solely to ensure that this disclosure is complete and to fully convey the scope of the invention to those skilled in the art to which the disclosure pertains.

本明細書において使用される用語について簡単に説明し、開示された実施例について具体的に説明する。 We will briefly explain the terms used in this specification and provide a specific description of the disclosed embodiments.

本明細書において使用される用語は、本開示における機能を考慮しながら可能な限り現在広く使用される一般的な用語を選択したが、これは関連分野に携わる技術者の意図または判例、新しい技術の出現などによって変わることができる。また、特定の場合は出願人が任意に選定した用語もあり、この場合、該当する発明の説明部分で詳細にその意味を記載する。したがって、本開示において使用される用語は、単純な用語の名称ではなく、その用語が有する意味と本開示の全般にわたる内容に基づいて定義されるべきである。 The terms used in this specification are currently common terms that are widely used as much as possible while taking into consideration the functions in this disclosure, but these may change depending on the intentions or precedents of engineers in related fields, the emergence of new technologies, etc. In addition, in certain cases, the applicant may arbitrarily select terms, and in such cases, the meanings of the terms will be described in detail in the description of the relevant invention. Therefore, the terms used in this disclosure should be defined based on the meanings that the terms have and the overall content of this disclosure, rather than simply by the name of the terms.

本明細書での単数の表現は、文脈上明らかに単数のものであると特定しない限り、複数の表現を含む。また、複数の表現は、文脈上明らかに複数のものであると特定しない限り、単数の表現を含む。 In this specification, the singular expression includes the plural expression unless the context clearly indicates otherwise. In addition, the plural expression includes the singular expression unless the context clearly indicates otherwise.

明細書全体においてある部分がある構成要素を「含む」とするとき、これは特に反対の記載がない限り、他の構成要素を除外するのではなく、他の構成要素をさらに含むことが可能であることを意味する。 Throughout the specification, when a part is said to "comprise" certain elements, this does not mean that it excludes other elements, but that it may further include other elements, unless specifically stated to the contrary.

また、明細書において使用される「モジュール」または「部」という用語は、ソフトウェアまたはハードウェア構成要素を意味し、「モジュール」または「部」は、ある役割を遂行する。しかしながら、「モジュール」または「部」は、ソフトウェアまたはハードウェアに限定される意味ではない。「モジュール」または「部」は、アドレッシングできる格納媒体にあるように構成されることもでき、1つまたはそれ以上のプロセッサを再生させるように構成されることもできる。したがって、一例として、「モジュール」または「部」は、ソフトウェア構成要素、オブジェクト指向ソフトウェア構成要素、クラス構成要素およびタスク構成要素のような構成要素と、プロセス、関数、属性、プロシージャ、サブルーチン、プログラムコードのセグメント、ドライバ、ファームウェア、マイクロコード、回路、データ、データベース、データ構造、テーブル、アレイまたは変数のうち少なくとも1つを含むことができる。構成要素と「モジュール」または「部」は、より少ない数の構成要素および「モジュール」または「部」で結合されたり、追加の構成要素と「モジュール」または「部」にさらに分離されたりすることができる。 Also, the term "module" or "unit" as used in the specification means a software or hardware component, and the "module" or "unit" performs a certain role. However, the meaning of "module" or "unit" is not limited to software or hardware. The "module" or "unit" can be configured to be in an addressable storage medium, and can be configured to execute one or more processors. Thus, as an example, a "module" or "unit" can include components such as software components, object-oriented software components, class components, and task components, and at least one of a process, a function, an attribute, a procedure, a subroutine, a segment of program code, a driver, firmware, microcode, a circuit, data, a database, a data structure, a table, an array, or a variable. The components and "modules" or "units" can be combined into fewer components and "modules" or "units" or further separated into additional components and "modules" or "units".

本開示の一実施例によると、「モジュール」または「部」は、プロセッサおよびメモリで具現されることができる。「プロセッサ」は、汎用プロセッサ、中央処理装置(CPU)、マイクロプロセッサ、デジタル信号プロセッサ(DSP)、コントローラ、マイクロコントローラ、状態マシンなどを含むように広く解釈されるべきである。いくつかの環境において、「プロセッサ」は、注文型半導体(ASIC)、プログラム可能な論理デバイス(PLD)、フィールドプログラム可能ゲートアレイ(FPGA)などを称することもできる。「プロセッサ」は、例えば、DSPとマイクロプロセッサの組み合わせ、複数のマイクロプロセッサの組み合わせ、DSPコアと結合した1つ以上のマイクロプロセッサの組み合わせ、または任意の他のそのような構成の組み合わせのような処理デバイスの組み合わせを称することもできる。また、「メモリ」は、電子情報を格納可能な任意の電子コンポーネントを含むように広く解釈されるべきである。「メモリ」は、ランダムアクセスメモリ(RAM)、読み出し-専用メモリ(ROM)、不-揮発性ランダムアクセスメモリ(NVRAM)、プログラム可能な読み出し-専用メモリ(PROM)、消去-プログラム可能な読み出し専用メモリ(EPROM)、電気的に消去可能PROM(EEPROM)、フラッシュメモリ、磁気または光学データ格納装置、レジスタなどのプロセッサ-読み出し可能媒体などの多様なタイプを称することもできる。プロセッサがメモリから情報を読み出し/またはメモリに情報を記録することができれば、メモリは、プロセッサと電子通信状態にあると呼ばれる。プロセッサに集積されたメモリは、プロセッサと電子通信状態にある。 According to one embodiment of the present disclosure, a "module" or "unit" may be embodied with a processor and memory. A "processor" should be broadly construed to include a general-purpose processor, a central processing unit (CPU), a microprocessor, a digital signal processor (DSP), a controller, a microcontroller, a state machine, and the like. In some circumstances, a "processor" may also refer to an application specific integrated circuit (ASIC), a programmable logic device (PLD), a field programmable gate array (FPGA), and the like. A "processor" may also refer to a combination of processing devices, such as, for example, a combination of a DSP and a microprocessor, a combination of multiple microprocessors, a combination of one or more microprocessors coupled with a DSP core, or any other such combination of configurations. Also, a "memory" should be broadly construed to include any electronic component capable of storing electronic information. "Memory" may refer to various types of processor-readable media, such as random access memory (RAM), read-only memory (ROM), non-volatile random access memory (NVRAM), programmable read-only memory (PROM), erasable programmable read-only memory (EPROM), electrically erasable programmable read-only memory (EEPROM), flash memory, magnetic or optical data storage devices, registers, etc. Memory is said to be in electronic communication with the processor if the processor can read information from and/or write information to the memory. Memory that is integrated with a processor is in electronic communication with the processor.

本開示において、「ユーザーアカウント」は、ユーザーがインスタントメッセージングアプリケーションにおいて生成して利用するアカウントまたはこれに関連したデータを示すことができる。また、インスタントメッセージングアプリケーションのユーザーアカウントは、インスタントメッセージングアプリケーションを利用するユーザーを指すことができる。これと同様に、インスタントメッセージングアプリケーションで提供するビデオ通話サービスを利用するユーザーは、インスタントメッセージングアプリケーションのユーザーアカウントを指すことができる。 In this disclosure, a "user account" may refer to an account or data associated therewith that a user creates and uses in an instant messaging application. Additionally, a user account for an instant messaging application may refer to a user who uses the instant messaging application. Similarly, a user who uses a video calling service provided by an instant messaging application may refer to a user account for an instant messaging application.

本開示において、「イメージ」は、複数のイメージまたは映像を含むことができる。また、イメージは、ユーザー端末に取り付けられたイメージセンサを通じて撮像されたイメージ、ユーザー端末と通信可能に構成されたイメージセンサによって撮像されたイメージを含むことができる。また、イメージは、撮像されたビデオ映像から抽出された一部イメージを含むことができる。 In this disclosure, an "image" can include multiple images or footage. Also, an image can include an image captured through an image sensor attached to a user terminal, or an image captured by an image sensor configured to be able to communicate with a user terminal. Also, an image can include a partial image extracted from a captured video footage.

本開示において、「ユーザーアカウントがアプリケーションに加入される間に」または「ユーザーアカウントのアプリケーション加入時」は、ユーザーアカウントがアプリケーションに加入するために要求される情報および/またはデータが取得されたり、受信されたりする期間を指すことができる。 For purposes of this disclosure, "during the time a user account is subscribed to an application" or "at the time a user account is subscribed to an application" may refer to the period during which information and/or data required to subscribe a user account to an application is obtained or received.

本開示において、「ユーザー活動情報」は、インスタントメッセージングアプリケーションのユーザーアカウントを利用するユーザーまたはユーザー端末の活動を示す情報やデータを含むことができる。一実施例によると、ユーザーアカウントのユーザー活動情報は、ユーザーアカウントがインスタントアプリケーションが動作される間に利用した情報またはデータを指すことができる。例えば、ユーザー活動情報は、ユーザーの顔面を含むイメージに適用されたブラー(blur)アイテム、顔面効果アイテム、ステッカーアイテムなどを含むことができるが、これに限定されない。他の実施例によると、ユーザーアカウントのユーザー活動情報は、ユーザーアカウントがインスタントメッセージングアプリケーションで提供するビデオ通話(video call)の間に利用した情報またはデータを指すことができる。例えば、ユーザー活動情報は、相手とビデオ通話中に使用されたロックイン(lock-in)アイテム、シェイク(shake)アイテムなどを含むことができるが、これに限定されない。 In the present disclosure, "user activity information" may include information or data indicating the activity of a user or a user terminal using a user account of an instant messaging application. According to one embodiment, the user activity information of a user account may refer to information or data used by the user account while the instant messaging application is running. For example, the user activity information may include, but is not limited to, a blur item, a facial effect item, a sticker item, etc. applied to an image including the user's face. According to another embodiment, the user activity information of a user account may refer to information or data used during a video call provided by the user account in the instant messaging application. For example, the user activity information may include, but is not limited to, a lock-in item, a shake item, etc. used during a video call with the other party.

図1は、本開示の一実施例に係るインスタントメッセージングサービスを提供するために、情報処理システム(130)が複数のユーザー端末(112、114、116)と通信可能に連結された構成を示す概要図である。情報処理システム(130)は、ネットワーク(120)を介して複数のユーザー端末(112、114、116)にインスタントメッセージングサービス(instant messaging service)を通じて受信された情報を格納、処理および検証できるだけでなく、インスタントメッセージングサービス(instant messaging service)を通じて情報を提供するシステムを含むことができる。一実施例によると、情報処理システム(130)は、インスタントメッセージングサービスに関連したコンピュータ実行可能なプログラム(例えば、ダウンロード可能なアプリケーション)とデータを格納、提供および実行できる1つ以上のサーバー装置および/またはデータベース、またはクラウドコンピューティングサービス基盤の1つ以上の分散コンピューティングデバイスおよび/または分散データベースを含むことができる。情報処理システム(130)によって提供されるインスタントメッセージングサービスは、複数のユーザー端末(112、114、116)にインストールされたインスタントメッセージングアプリケーションを介してユーザーに提供されることができる。例えば、インスタントメッセージングサービスは、ユーザー端末(112、114、116)間のビデオ通話サービスおよび/またはテキストメッセージングサービスを含むことができる。図1では、情報処理システム(130)がインスタントメッセージングアプリケーションを介して受信される情報を検証するように構成され得ると説明されたが、これに限定されず、情報処理システム(130)とは別途のシステムを通じてインスタントメッセージングアプリケーションを介して受信される情報を検証するように構成されることができる。 1 is a schematic diagram showing a configuration in which an information processing system (130) is communicatively connected to a plurality of user terminals (112, 114, 116) to provide an instant messaging service according to an embodiment of the present disclosure. The information processing system (130) may include a system that can store, process, and verify information received through an instant messaging service to a plurality of user terminals (112, 114, 116) via a network (120), as well as provide information through the instant messaging service. According to an embodiment, the information processing system (130) may include one or more server devices and/or databases that can store, provide, and execute computer executable programs (e.g., downloadable applications) and data related to the instant messaging service, or one or more distributed computing devices and/or distributed databases based on a cloud computing service. The instant messaging service provided by the information processing system (130) may be provided to users through an instant messaging application installed in a plurality of user terminals (112, 114, 116). For example, the instant messaging service may include a video call service and/or a text messaging service between the user terminals (112, 114, 116). In FIG. 1, it has been described that the information processing system (130) may be configured to verify information received through an instant messaging application, but is not limited thereto, and may be configured to verify information received through an instant messaging application through a system separate from the information processing system (130).

図1において、携帯電話端末(112)、タブレット端末(114)およびPC端末(116)がユーザー端末の例として図示されたが、これに限定されず、ユーザー端末は、有線および/または無線通信が可能で、イメージセンサ(例えば、カメラ)が取り付けられるか、またはイメージセンサと通信することが可能でインスタントメッセージングアプリケーションがインストールされて実行されることができる任意のコンピューティングデバイスであることができる。例えば、ユーザー端末は、スマートフォン(smart phone)、携帯電話、ナビゲーション、コンピュータ、ラップトップ、デジタル放送用端末、PDA(Personal Digital Assistants)、PMP(Portable Multimedia Player)、タブレットPC、ゲームコンソール(game console)、ウェアラブルデバイス(wearable device)、IoT(internet of things)デバイス、VR(virtual reality)デバイス、AR(augmented reality)デバイスなどを含むことができる。また、図1には、3つのユーザー端末(112、114、116)がネットワーク(120)を介して情報処理システム(130)と通信するものと図示されているが、これに限定されず、異なる数のユーザー端末がネットワーク(120)を介して情報処理システム(130)と通信するように構成されることもできる。 In FIG. 1, a mobile phone terminal (112), a tablet terminal (114), and a PC terminal (116) are illustrated as examples of user terminals, but are not limited thereto, and a user terminal can be any computing device capable of wired and/or wireless communication, having an image sensor (e.g., a camera) attached or capable of communicating with an image sensor, and having an instant messaging application installed and running. For example, the user terminal may include a smart phone, a mobile phone, a navigation system, a computer, a laptop, a digital broadcasting terminal, a PDA (Personal Digital Assistant), a PMP (Portable Multimedia Player), a tablet PC, a game console, a wearable device, an IoT (internet of things) device, a VR (virtual reality) device, an AR (augmented reality) device, and the like. Also, while FIG. 1 illustrates three user terminals (112, 114, 116) communicating with the information processing system (130) via the network (120), this is not limited, and a different number of user terminals may be configured to communicate with the information processing system (130) via the network (120).

通信方式は制限されず、ネットワーク(120)が含むことができる通信網(例えば、移動通信網、有線インターネット、無線インターネット、放送網、衛星網など)を活用する通信方式だけでなく、ユーザー端末間の近距離無線通信もまた含まれることができる。例えば、ネットワーク(120)は、PAN(personal area network)、LAN(local area network)、CAN(campus area network)、MAN(metropolitan area network)、WAN(wide area network)、BBN(broadband network)、インターネットなどのネットワークのうち1つ以上の任意のネットワークを含むことができる。また、ネットワーク(120)は、バスネットワーク、スターネットワーク、リングネットワーク、メッシュネットワーク、スター-バスネットワーク、ツリーまたは階層的(hierarchical)ネットワークなどを含むネットワークトポロジのうちいずれか1つ以上を含むことができるが、これに制限されない。 The communication method is not limited, and may include not only a communication method utilizing a communication network (e.g., a mobile communication network, a wired Internet, a wireless Internet, a broadcast network, a satellite network, etc.) that the network (120) may include, but also short-range wireless communication between user terminals. For example, the network (120) may include one or more of a personal area network (PAN), a local area network (LAN), a campus area network (CAN), a metropolitan area network (MAN), a wide area network (WAN), a broadband network (BBN), the Internet, etc. In addition, the network (120) may include one or more of the following network topologies, including, but not limited to, a bus network, a star network, a ring network, a mesh network, a star-bus network, a tree or a hierarchical network.

情報処理システム(130)は、インスタントメッセージングアプリケーションが動作されるユーザー端末(112、114、116)間にビデオ通話サービスを提供することができる。一実施例によると、情報処理システム(130)は、第1のユーザー端末の第1のユーザーおよび第2のユーザー端末の第2のユーザーを指定された条件に基づいてマッチングし、両方のユーザー間でビデオ通話を行うことができるように第1のユーザー端末および第2のユーザー端末を相互連結させることができる。このような指定された条件は、ユーザー自身がビデオ通話を希望する相手に対する条件を含むことができ、第1のユーザーまたは第2のユーザーのうち少なくとも1人のユーザーが入力した条件を含むことができる。例えば、指定された条件は、相手の性別、地域、年齢、職業、年収、身体的条件などを含むことができるが、これに限定されない。他の実施例によると、情報処理システム(130)は、第1のユーザー端末の第1のユーザーと第2のユーザー端末の第2のユーザーをランダムにマッチングし、両方のユーザー間でビデオ通話を行うことができるように相互連結させることができる。 The information processing system (130) may provide a video call service between user terminals (112, 114, 116) on which an instant messaging application is operated. According to one embodiment, the information processing system (130) may match a first user of a first user terminal and a second user of a second user terminal based on a specified condition, and may interconnect the first user terminal and the second user terminal so that a video call can be made between both users. Such specified conditions may include conditions for a party with which the user himself/herself desires to make a video call, and may include conditions input by at least one of the first user or the second user. For example, the specified conditions may include, but are not limited to, the gender, region, age, occupation, annual income, physical condition, etc. of the other party. According to another embodiment, the information processing system (130) may randomly match a first user of a first user terminal and a second user of a second user terminal, and interconnect the first user terminal and the second user terminal so that a video call can be made between both users.

情報処理システム(130)は、インスタントメッセージングアプリケーションを介して情報を収集するように構成されることができる。一実施例によると、情報処理システム(130)は、インスタントメッセージングアプリケーションの動作中にユーザー端末に取り付けられたイメージセンサを通じて撮像されたユーザーの顔面を含むイメージを受信するように構成されることができる。例えば、このようなユーザーの顔面を含むイメージは、ユーザーがインスタントメッセージングアプリケーションに加入した後に撮影される映像(例えば、ビデオ映像)から探知または選択されることができ、探知されたイメージは、情報処理システム(130)に提供されることができる。また、探知されたイメージは、ユーザーの顔面だけでなく、ユーザーの衣服を含むことができる。他の実施例によると、情報処理システム(130)は、インスタントメッセージングアプリケーションに対するユーザーに関連した任意の情報および/またはデータを収集することができる。例えば、情報処理システム(130)は、ユーザーがインスタントメッセージングアプリケーションに入力した情報、ユーザーがインスタントメッセージングアプリケーションを使用した履歴、ユーザーの友人リスト、ユーザーに対する他のユーザーの入力情報、テキストチャットの間に入力されたテキストなどを収集することができるが、これに限定されない。 The information processing system (130) may be configured to collect information through an instant messaging application. According to one embodiment, the information processing system (130) may be configured to receive an image including a user's face captured through an image sensor attached to a user terminal during operation of the instant messaging application. For example, such an image including the user's face may be detected or selected from an image (e.g., a video image) captured after the user subscribes to the instant messaging application, and the detected image may be provided to the information processing system (130). The detected image may include not only the user's face but also the user's clothes. According to another embodiment, the information processing system (130) may collect any information and/or data related to a user for an instant messaging application. For example, the information processing system (130) may collect information input by the user to the instant messaging application, a history of the user's use of the instant messaging application, the user's friend list, input information of other users for the user, text input during a text chat, etc., but is not limited thereto.

情報処理システム(130)は、インスタントメッセージングアプリケーションを介して受信された情報を検証するように構成されることができる。一実施例によると、ユーザーがインスタントメッセージングアプリケーションの加入時にユーザー端末から受信された情報を検証するように設定することができる。ここで、ユーザー端末から受信された情報は、ユーザーに対する情報、ユーザーを示す情報などを含むことができ、例えば、ユーザーの性別、年齢、または生まれ年などを含むことができるが、これに限定されない。 The information processing system (130) may be configured to verify information received via an instant messaging application. According to one embodiment, the information received from the user terminal may be configured to verify information received when the user subscribes to the instant messaging application. Here, the information received from the user terminal may include information about the user, information indicating the user, etc., and may include, but is not limited to, the user's gender, age, or year of birth.

情報処理システム(130)は、インスタントメッセージングアプリケーションを介して収集された情報に基づいて受信されたユーザーの性別に対する情報を検証するように構成されることができる。一実施例によると、情報処理システム(130)は、ユーザーの顔面を含むイメージを分析して受信されたユーザーの性別に対する情報を検証することができる。例えば、ユーザーの顔面を含むイメージまたはこれから抽出されたイメージフィーチャー(image feature)情報は、学習された人工ニューラルネットワークモデルに入力されてユーザーの性別が出力されることができる。他の実施例によると、情報処理システム(130)は、ユーザーの顔面を含むイメージに対する分析結果だけでなく、インスタントメッセージングアプリケーションを介して収集されたユーザーに関連した情報に基づいて受信されたユーザーの性別を分析することができる。例えば、ユーザーの顔面を含むイメージから分析されたユーザーの性別結果に加えて、ユーザーがインスタントメッセージングアプリケーションを介して入力した情報、ユーザーがインスタントメッセージングアプリケーションを使用した履歴情報、ユーザーの友人リスト情報、ユーザーに対する他のユーザーの入力情報またはテキストチャットの間に入力されたテキスト情報のうち少なくとも1つに基づいてユーザーの性別が検証されることができる。さらに他の例として、情報処理システム(130)は、ユーザーの顔面を含むイメージに対する分析結果を考慮せず、インスタントメッセージングアプリケーションを介して収集されたユーザーに関連した情報だけを利用して受信されたユーザーの性別を検証することができる。受信されたユーザーの性別が実際のユーザーの性別と異なる場合、情報処理システムは、別途の検証システム(例えば、モニタリング要員の検査、性別検証のための異なるアルゴリズムなど)に提供されることができる。また、ユーザーの性別が偽りで入力されたユーザーアカウントは、インスタントメッセージングアプリケーションを利用する場合において、ペナルティ(例:利用の停止、加入の脱退など)が適用されることができる。図1においては、情報処理システム(130)がインスタントメッセージングアプリケーションを介して受信された情報を検証するように開示されたが、これに限定されず、インスタントメッセージングアプリケーションが動作されるユーザー端末が受信された情報を検証するように構成されることができる。 The information processing system (130) may be configured to verify information on the user's gender received based on information collected through an instant messaging application. According to one embodiment, the information processing system (130) may verify information on the user's gender received by analyzing an image including the user's face. For example, an image including the user's face or image feature information extracted therefrom may be input to a trained artificial neural network model to output the user's gender. According to another embodiment, the information processing system (130) may analyze the user's gender received based on information related to the user collected through an instant messaging application as well as the analysis result on the image including the user's face. For example, in addition to the user's gender result analyzed from the image including the user's face, the user's gender may be verified based on at least one of information input by the user through an instant messaging application, history information of the user's use of the instant messaging application, information on the user's friend list, input information of other users regarding the user, or text information input during a text chat. As another example, the information processing system (130) may verify the gender of the received user only by using information related to the user collected through the instant messaging application, without considering the analysis results of the image including the user's face. If the received gender of the user is different from the actual gender of the user, the information processing system may be provided to a separate verification system (e.g., a monitoring personnel check, a different algorithm for gender verification, etc.). In addition, a user account in which the user's gender is entered falsely may be penalized (e.g., suspended, withdrawn, etc.) when using an instant messaging application. In FIG. 1, the information processing system (130) is disclosed as verifying the information received through the instant messaging application, but is not limited thereto, and the user terminal on which the instant messaging application is operated may be configured to verify the received information.

図2は、本発明の一実施例において、ユーザー端末(112)および情報処理システム(130)の内部構成を示すブロック図である。ユーザー端末(112)は、メモリ(216)、プロセッサ(218)、通信モジュール(220)および入出力インターフェース(214)を含むことができる。これと同様に、情報処理システム(130)は、メモリ(234)、プロセッサ(236)、通信モジュール(238)および入出力インターフェース(232)を含むことができる。図2に図示されたように、ユーザー端末(112)および情報処理システム(130)は、それぞれの通信モジュール(220、238)を利用して、ネットワーク(120)を介して情報および/またはデータを通信できるように構成されることができる。また、入出力デバイス(212)は、入出力インターフェース(214)を介してユーザー端末(112)に情報および/またはデータを入力したり、ユーザー端末(112)から生成された情報および/またはデータを出力したりするように構成されることができる。図2においては、メモリ(234)、プロセッサ(236)、通信モジュール(238)および入出力インターフェース(232)がユーザー端末(112)の内部構成として図示されているが、他のユーザー端末(例えば、図1のユーザー端末(114、116))もユーザー端末(112)の内部構成と同一または類似の内部構成を含むことができる。 2 is a block diagram showing the internal configuration of a user terminal (112) and an information processing system (130) in one embodiment of the present invention. The user terminal (112) may include a memory (216), a processor (218), a communication module (220), and an input/output interface (214). Similarly, the information processing system (130) may include a memory (234), a processor (236), a communication module (238), and an input/output interface (232). As shown in FIG. 2, the user terminal (112) and the information processing system (130) may be configured to communicate information and/or data via the network (120) using their respective communication modules (220, 238). In addition, the input/output device (212) may be configured to input information and/or data to the user terminal (112) via the input/output interface (214) and output information and/or data generated from the user terminal (112). In FIG. 2, the memory (234), the processor (236), the communication module (238), and the input/output interface (232) are illustrated as the internal configuration of the user terminal (112), but other user terminals (e.g., the user terminals (114, 116) in FIG. 1) may also include the same or similar internal configuration as the internal configuration of the user terminal (112).

メモリ(216、234)は、非-一時的な任意のコンピュータ読み取り可能な記録媒体を含むことができる。一実施例によると、メモリ(216、234)は、RAM(random access memory)、ROM(read only memory)、ディスクドライブ、SSD(solid state drive)、フラッシュメモリ(flash memory)などのような不揮発性の大容量記憶装置(permanent mass storage device)を含むことができる。他の例として、ROM、SSD、フラッシュメモリ、ディスクドライブなどのような不揮発性の大容量記憶装置は、メモリ(216、234)と区分される別途の永久記憶装置としてユーザー端末(112)または情報処理システム(130)に含まれることができる。また、メモリ(216、234)には、オペレーティングシステムと少なくとも1つのプログラムコード(例えば、ユーザー端末(112)にインストールされて駆動されるブラウザやインスタントメッセージングサービスの提供のためにユーザー端末(112)にインストールされたインスタントメッセージングアプリケーションなどのためのコード)が格納されることができる。このようなソフトウェアコンポーネントは、メモリ(216、234)とは別途のコンピュータ読み取り可能な記録媒体からロードされることができる。このような別途のコンピュータ読み取り可能な記録媒体は、これらのユーザー端末および情報検証システムに直接連結可能な記録媒体を含むことができ、例えば、フロッピードライブ、ディスク、テープ、DVD/CD-ROMドライブ、メモリーカードなどのコンピュータ読み取り可能な記録媒体を含むことができる。他の例として、ソフトウェアコンポーネントは、コンピュータ読み取り可能な記録媒体ではなく、通信モジュール(220、238)を通じてメモリ(216、234)にロードされることもできる。例えば、少なくとも1つのプログラムは、開発者またはアプリケーションのインストールファイルを配布するファイル配布システムがネットワーク(120)を介して提供するファイルによってインストールされるコンピュータプログラム(例えば、上述されたインスタントメッセージングアプリケーション)に基づいて、メモリ(216、234)にロードされることができる。 The memory (216, 234) may include any non-transitory computer-readable recording medium. According to an embodiment, the memory (216, 234) may include a non-volatile mass storage device such as a random access memory (RAM), a read only memory (ROM), a disk drive, a solid state drive (SSD), a flash memory, etc. As another example, a non-volatile mass storage device such as a ROM, an SSD, a flash memory, a disk drive, etc. may be included in the user terminal (112) or the information processing system (130) as a separate permanent storage device separate from the memory (216, 234). In addition, the memory (216, 234) may store an operating system and at least one program code (e.g., code for a browser installed and operated in the user terminal (112) or an instant messaging application installed in the user terminal (112) to provide an instant messaging service). Such software components may be loaded from a computer-readable recording medium separate from the memory (216, 234). Such separate computer-readable recording medium may include a recording medium directly connectable to these user terminals and the information verification system, and may include computer-readable recording media such as a floppy drive, a disk, a tape, a DVD/CD-ROM drive, a memory card, etc. As another example, the software components may be loaded into the memory (216, 234) through a communication module (220, 238) rather than a computer-readable recording medium. For example, at least one program may be loaded into the memory (216, 234) based on a computer program (e.g., the instant messaging application described above) installed by a file provided over the network (120) by a developer or a file distribution system that distributes the installation file of the application.

プロセッサ(218、236)は、基本的な算術、ロジックおよび入出力演算を遂行することにより、コンピュータプログラムのコマンドを処理するように構成されることができる。コマンドは、メモリ(216、234)または通信モジュール(220、238)によってプロセッサ(218、236)に提供されることができる。例えば、プロセッサ(218、236)は、メモリ(216、234)のような記録装置に格納されたプログラムコードによって受信されるコマンドを実行するように構成されることができる。 The processors (218, 236) can be configured to process computer program commands by performing basic arithmetic, logic, and input/output operations. The commands can be provided to the processors (218, 236) by the memory (216, 234) or the communication module (220, 238). For example, the processors (218, 236) can be configured to execute commands received by program code stored in a storage device such as the memory (216, 234).

通信モジュール(220、238)は、ネットワーク(120)を介してユーザー端末(112)と情報検証システム(130)が相互通信するための構成や機能を提供することができ、ユーザー端末(112)および/または情報処理システム(130)が他のユーザー端末または他のシステム(例えば、別途のモニタリングシステム)と通信するための構成または機能を提供することができる。一例として、ユーザー端末(112)のプロセッサ(218)がメモリ(216)のような記録装置に格納されたプログラムコードによって生成した要請は、通信モジュール(220)の制御に基づいてネットワーク(120)を介して情報処理システム(130)に伝達されることができる。逆に、情報処理システム(130)のプロセッサ(236)の制御に基づいて提供される制御信号やコマンド、コンテンツ、ファイルなどが通信モジュール(238)とネットワーク(120)を経て、ユーザー端末(112)の通信モジュール(220)を通じてユーザー端末(112)に受信されることができる。例えば、通信モジュール(220)を通じて受信された情報処理システム(130)の制御信号やコマンド、コンテンツ、ファイルなどは、プロセッサ(218)やメモリ(216)に伝達されることができ、コンテンツやファイルなどは、ユーザー端末(112)がさらに含むことができる記憶媒体(上述された永久記憶装置)に格納されることができる。 The communication module (220, 238) may provide a configuration or function for the user terminal (112) and the information verification system (130) to communicate with each other via the network (120), and may provide a configuration or function for the user terminal (112) and/or the information processing system (130) to communicate with other user terminals or other systems (e.g., a separate monitoring system). As an example, a request generated by the processor (218) of the user terminal (112) according to a program code stored in a recording device such as the memory (216) may be transmitted to the information processing system (130) via the network (120) under the control of the communication module (220). Conversely, control signals, commands, content, files, etc. provided under the control of the processor (236) of the information processing system (130) may be received by the user terminal (112) through the communication module (220) of the user terminal (112) via the communication module (238) and the network (120). For example, control signals, commands, content, files, etc. of the information processing system (130) received through the communication module (220) can be transmitted to the processor (218) or memory (216), and the content, files, etc. can be stored in a storage medium (the permanent storage device described above) that the user terminal (112) can further include.

入出力インターフェース(214)は、入出力デバイス(212)とのインターフェースのための手段であることができる。一例として、入力デバイスは、カメラ、キーボード、マイクロフォン、マウスなどのデバイスを、そして出力デバイスは、ディスプレイ、スピーカー、触覚フィードバックデバイス(haptic feedback device)などのようなデバイスを含むことができる。他の例として、入出力インターフェース(214)は、タッチスクリーンなどのように入力と出力を遂行するための構成または機能が1つに統合されたデバイスとのインターフェースのための手段であることができる。例えば、ユーザー端末(112)のプロセッサ(218)がメモリ(216)にロードされたコンピュータプログラムのコマンドを処理する場合において、情報処理システム(130)や他のユーザー端末が提供する情報および/またはデータを利用して構成されるサービス画面やコンテンツが入出力インターフェース(214)を介してディスプレイに表示されることができる。入出力デバイス(212)は、ユーザー端末(112)と1つの装置で構成されることができる。また、情報処理システム(130)の入出力インターフェース(232)は、情報処理システム(130)と連結されたり、情報処理システム(130)が含むことのできる入力または出力のためのデバイス(図示せず)とのインターフェースのための手段であったりすることができる。図2においては、入出力インターフェース(214、232)がプロセッサ(218、236)と別途に構成された要素として図示されたが、これに限定されず、入出力インターフェース(214、232)がプロセッサ(218、236)に含まれるように構成されることができる。 The input/output interface (214) may be a means for interfacing with the input/output device (212). As an example, the input device may include a device such as a camera, keyboard, microphone, or mouse, and the output device may include a device such as a display, speaker, or haptic feedback device. As another example, the input/output interface (214) may be a means for interfacing with a device in which the configuration or function for performing input and output is integrated into one, such as a touch screen. For example, when the processor (218) of the user terminal (112) processes a command of a computer program loaded in the memory (216), a service screen or content configured using information and/or data provided by the information processing system (130) or another user terminal may be displayed on the display via the input/output interface (214). The input/output device (212) may be configured as a single device together with the user terminal (112). In addition, the input/output interface (232) of the information processing system (130) may be connected to the information processing system (130) or may be a means for interfacing with an input or output device (not shown) that may be included in the information processing system (130). In FIG. 2, the input/output interfaces (214, 232) are illustrated as elements configured separately from the processors (218, 236), but are not limited thereto, and the input/output interfaces (214, 232) may be configured to be included in the processors (218, 236).

ユーザー端末(112)および情報処理システム(130)は、図2の構成要素よりも多くの構成要素を含むことができる。しかし、ほとんどの従来技術的構成要素を明確に図示する必要性はない。一実施例によると、ユーザー端末(112)は、上述された入出力デバイスのうち少なくとも一部を含むように具現されることができる。また、ユーザー端末(112)は、トランシーバ(transceiver)、GPS(Global Positioning System)モジュール、カメラ、各種センサ、データベースなどのような他の構成要素をさらに含むことができる。例えば、ユーザー端末(112)がスマートフォンである場合、一般的にスマートフォンが含んでいる構成要素を含むことができ、例えば、加速度センサやジャイロセンサ、カメラモジュール、各種の物理的ボタン、タッチパネルを利用したボタン、入出力ポート、振動のためのバイブレーターなどの多様な構成要素がユーザー端末(112)にさらに含まれるように具現されることができる。 The user terminal (112) and the information processing system (130) may include more components than those in FIG. 2. However, it is not necessary to clearly illustrate most of the conventional technical components. According to an embodiment, the user terminal (112) may be embodied to include at least some of the above-mentioned input/output devices. The user terminal (112) may further include other components such as a transceiver, a GPS (Global Positioning System) module, a camera, various sensors, a database, and the like. For example, if the user terminal (112) is a smartphone, it may include components that are generally included in a smartphone, and may be embodied to further include various components such as an acceleration sensor, a gyro sensor, a camera module, various physical buttons, buttons using a touch panel, an input/output port, and a vibrator for vibration.

一実施例によると、ユーザー端末(112)のプロセッサ(218)は、ビデオ通話サービスを提供するインスタントメッセージングアプリケーションを動作するように構成されることができる。このとき、インスタントメッセージングアプリケーションに関連したプログラムコードが、ユーザー端末(112)のメモリ(216)にロードされることができる。インスタントメッセージングアプリケーションが動作される間に、ユーザー端末(112)のプロセッサ(218)は、入出力デバイス(212)から提供された情報および/またはデータを、入出力インターフェース(214)を介して受信したり、通信モジュール(220)を通じて情報処理システム(130)から情報および/またはデータを受信したりすることができ、受信された情報および/またはデータを処理してメモリ(216)に格納することができる。また、このような情報および/またはデータは、通信モジュール(220)を通じて情報処理システム(130)に提供することができる。 According to one embodiment, the processor (218) of the user terminal (112) may be configured to operate an instant messaging application providing a video call service. At this time, program code related to the instant messaging application may be loaded into the memory (216) of the user terminal (112). During operation of the instant messaging application, the processor (218) of the user terminal (112) may receive information and/or data provided from the input/output device (212) via the input/output interface (214) or may receive information and/or data from the information processing system (130) through the communication module (220), process the received information and/or data, and store it in the memory (216). Also, such information and/or data may be provided to the information processing system (130) through the communication module (220).

インスタントメッセージングアプリケーションが動作される間に、ユーザー端末(112)に入出力インターフェースと連結された入力デバイスであるカメラが動作されるように構成されることができる。例えば、カメラは、ユーザー端末(112)のユーザーの顔面を含むイメージを撮像するように配置されることができ、ユーザー端末(112)の前面部および/または後面部に設置されることができる、カメラを通じて撮像された動画またはイメージは、プロセッサ(218)に伝達されることができる。一実施例によると、プロセッサ(218)は、アプリケーションが動作される間に(例えば、ユーザーのアプリケーション加入後、動作される間に)撮像されたビデオ映像またはイメージから顔面が含まれたイメージがあるかを探知するように構成されることができる。プロセッサ(218)は、オブジェクト認識または探知分野において知られた任意の顔面認識または探知アルゴリズム、技法および/または人工知能技術を適用して、受信されたイメージから顔面が含まれたイメージを探知するように構成されることができる。例えば、プロセッサ(218)は、受信されたイメージから1つ以上の特徴点を抽出し、抽出された特徴点に基づいて受信されたイメージに顔面が含まれたかを決定するように構成されることができる。カメラから受信された動画やイメージから顔面が探知された場合、プロセッサ(218)は、顔面が含まれたイメージを通信モジュール(220)およびネットワーク(120)を介して情報処理システム(130)に提供することができる。他の実施例によると、インスタントメッセージングアプリケーションで提供する他人とのビデオ通話サービスの間に、カメラを通じて撮像された1つ以上のイメージを通信モジュール(220)およびネットワーク(120)を介して情報処理システム(130)に提供することができる。また、情報処理システム(130)のプロセッサ(236)は、ユーザー端末(112)と通話中の相手のユーザー端末から受信された1つ以上のイメージをユーザー端末(112)に提供することができる。このようなビデオ通話サービスの間に、カメラを通じて撮像されたイメージと共に入出力インターフェースと連結されたマイクロフォンを介して受信されたユーザーの音声も、一緒に情報処理システム(130)を通じて提供され、相手のユーザー端末に提供されることができる。 While the instant messaging application is operated, the user terminal (112) may be configured to operate a camera, which is an input device connected to an input/output interface. For example, the camera may be arranged to capture an image including the face of the user of the user terminal (112), and may be installed on the front and/or rear of the user terminal (112). The video or image captured through the camera may be transmitted to the processor (218). According to an embodiment, the processor (218) may be configured to detect whether there is an image including a face from a video or image captured while the application is operated (e.g., while the application is operated after the user subscribes to the application). The processor (218) may be configured to detect an image including a face from a received image by applying any face recognition or detection algorithm, technique and/or artificial intelligence technique known in the object recognition or detection field. For example, the processor (218) may be configured to extract one or more feature points from the received image and determine whether a face is included in the received image based on the extracted feature points. If a face is detected from the video or image received from the camera, the processor (218) may provide the image including the face to the information processing system (130) via the communication module (220) and the network (120). According to another embodiment, during a video call service with another person provided by an instant messaging application, one or more images captured through the camera may be provided to the information processing system (130) via the communication module (220) and the network (120). In addition, the processor (236) of the information processing system (130) may provide one or more images received from the other user terminal during a call with the user terminal (112) to the user terminal (112). During such a video call service, the user's voice received through a microphone connected to the input/output interface together with the image captured through the camera may also be provided through the information processing system (130) and provided to the other user terminal.

一実施例によると、インスタントメッセージングアプリケーションが動作される間に、プロセッサ(218)は、入出力インターフェースと連結されたタッチスクリーン、キーボードなどの入力デバイスを通じて入力、または選択されたテキスト、イメージなどを受信することができ、受信されたテキストおよび/またはイメージをメモリ(216)に格納したり、通信モジュール(220)およびネットワーク(120)を介して情報処理システム(130)に提供したりすることができる。例えば、プロセッサ(218)は、タッチスクリーン、キーボードなどの入力デバイスを通じてユーザーの性別、年齢などのユーザー情報、インスタントメッセージングサービスの間に入力されたテキストメッセージ、関心事情報、申告情報などのテキスト情報を受信することができる。また、プロセッサ(218)は、入力デバイスを通じて相手に対する評価情報およびブラーアイテム、顔面効果アイテム、ロックインアイテム、シェイクアイテム、ステッカーアイテムなどのアイテム情報を受信するように構成されることができる。これにより、受信されたテキストおよび/またはイメージを通信モジュール(220)およびネットワーク(120)を介して情報処理システム(130)に提供することができる。 According to an embodiment, while the instant messaging application is operating, the processor (218) may receive text, images, etc., input or selected through an input device such as a touch screen or keyboard connected to the input/output interface, and may store the received text and/or image in the memory (216) or provide it to the information processing system (130) through the communication module (220) and the network (120). For example, the processor (218) may receive user information such as a user's gender and age, text information such as a text message, interest information, and declaration information input during the instant messaging service through an input device such as a touch screen or keyboard. The processor (218) may also be configured to receive evaluation information on the other party and item information such as a blur item, a facial effect item, a lock-in item, a shake item, and a sticker item through the input device. Thus, the received text and/or image may be provided to the information processing system (130) through the communication module (220) and the network (120).

インスタントメッセージングアプリケーションが動作される間に、プロセッサ(218)は、ユーザー端末(112)のディスプレイ出力可能デバイス(例えば、タッチスクリーン、ディスプレイなど)、音声出力可能デバイス(例えば、スピーカー)などの出力デバイスを通じて処理された情報および/またはデータを出力するように構成されることができる。一実施例によると、インスタントメッセージングアプリケーションが提供する情報および/またはデータは、ディスプレイ出力可能デバイスなどを通じて表示されることができる。例えば、インスタントメッセージングアプリケーションが提供するビデオ通話サービスの間に、プロセッサ(218)は、ディスプレイ可能出力デバイスを通じてユーザーのイメージだけでなく、相手のイメージも一緒に表示されるように構成されることができる。他の例として、プロセッサ(218)は、インスタントメッセージングアプリケーションで提供する多様な機能または構成(例えば、プロフィール、ユーザー情報入力インターフェース、評価情報、映像処理アイテム、チャットボックス、友人リストなど)をディスプレイ可能出力デバイスに表示するように構成されることができる。他の実施例によると、インスタントメッセージングアプリケーションが提供する情報および/またはデータは、音声出力可能デバイスなどを通じて出力されることができる。例えば、ビデオ通話サービスの間に、プロセッサ(218)は、情報処理システム(130)から受信された相手の音声を出力するように構成されることができる。 During operation of the instant messaging application, the processor (218) may be configured to output the processed information and/or data through an output device such as a display output device (e.g., a touch screen, a display, etc.) or an audio output device (e.g., a speaker) of the user terminal (112). According to one embodiment, the information and/or data provided by the instant messaging application may be displayed through a display output device, etc. For example, during a video call service provided by the instant messaging application, the processor (218) may be configured to display not only the image of the user but also the image of the other party through a display output device. As another example, the processor (218) may be configured to display various functions or configurations provided by the instant messaging application (e.g., a profile, a user information input interface, rating information, video processing items, a chat box, a friend list, etc.) on a display output device. According to another embodiment, the information and/or data provided by the instant messaging application may be output through an audio output device, etc. For example, during a video call service, the processor (218) may be configured to output the voice of the other party received from the information processing system (130).

一実施例によると、情報処理システム(130)のプロセッサ(236)は、ユーザー端末(112)を含む複数のユーザー端末から受信された情報および/またはデータを管理、処理および/または格納するように構成されることができる。例えば、プロセッサ(236)は、複数のユーザー端末から受信された情報および/またはデータに基づいて、インスタントメッセージングアプリケーションで提供するビデオ通話サービスおよび/またはテキストチャットサービスを複数のユーザー端末に提供することができる。例えば、両方のユーザー端末がビデオ通話を遂行する間に、それぞれのユーザー端末から受信された映像、音声および/またはテキストデータを相手のユーザー端末に提供するように構成されることができる。 According to one embodiment, the processor (236) of the information processing system (130) may be configured to manage, process and/or store information and/or data received from a plurality of user terminals including the user terminal (112). For example, the processor (236) may provide a video call service and/or a text chat service provided by an instant messaging application to the plurality of user terminals based on the information and/or data received from the plurality of user terminals. For example, the processor (236) may be configured to provide video, audio and/or text data received from each user terminal to the other user terminal while both user terminals are performing a video call.

情報処理システム(130)のプロセッサ(236)は、インスタントメッセージングアプリケーションが動作される間に、ユーザー端末(112)から受信された情報および/またはデータを検証するように構成されることができる。一実施例によると、情報処理システム(130)のプロセッサ(236)は、ユーザー端末(112)からユーザーの性別に対する情報を受信することができ、受信された性別を検証するように構成されることができる。具体的に、情報処理システム(130)のプロセッサ(236)は、受信されたユーザー端末(112)に関連した情報および/またはデータに基づいてユーザーの性別を検証するように構成されることができる。以下では、情報処理システム(130)のプロセッサ(236)がユーザーの性別に対する情報を検証する具体的な方式について詳細に説明される。 The processor (236) of the information processing system (130) may be configured to verify information and/or data received from the user terminal (112) while the instant messaging application is operating. According to one embodiment, the processor (236) of the information processing system (130) may be configured to receive information regarding the user's gender from the user terminal (112) and verify the received gender. Specifically, the processor (236) of the information processing system (130) may be configured to verify the user's gender based on the received information and/or data related to the user terminal (112). A specific manner in which the processor (236) of the information processing system (130) verifies the information regarding the user's gender will be described in detail below.

図3は、本開示の一実施例に係るビデオ通話サービスを提供してユーザーの性別を検証するように構成された情報処理システム(130)の構成を示すブロック図である。情報処理システム(130)のプロセッサ(236)は、データ収集モジュール(310)、データ学習モジュール(320)、データ認識モジュール(330)および性別検証モジュール(340)を含むように構成されることができる。また、プロセッサ(236)は、通信モジュール(238)を通じて情報および/またはデータを外部デバイスと送受信することができる。これに加えて、プロセッサ(236)は、情報および/またはデータをメモリ(234)に格納したり、メモリ(234)から情報および/またはデータを取得したりすることができる。 Figure 3 is a block diagram showing a configuration of an information processing system (130) configured to provide a video calling service and verify a user's gender according to one embodiment of the present disclosure. The processor (236) of the information processing system (130) can be configured to include a data collection module (310), a data learning module (320), a data recognition module (330), and a gender verification module (340). The processor (236) can also transmit and receive information and/or data to and from an external device through the communication module (238). In addition, the processor (236) can store information and/or data in the memory (234) and retrieve information and/or data from the memory (234).

データ収集モジュール(310)は、インスタントメッセージングアプリケーションが動作される間に、複数のユーザー端末のそれぞれから通信モジュール(238)を通じてユーザーの顔面を含むイメージを受信するように構成されることができる。一実施例によると、データ収集モジュール(310)は、ユーザーアカウントのインスタントメッセージングアプリケーションの加入後に、ユーザーアカウントの活動中のユーザー端末からユーザーの顔面を含むイメージを受信することができる。例えば、受信されたイメージは、ユーザーの顔面だけでなく、ユーザーの他の身体一部(例えば、首、肩、腕など)または衣服のうち少なくとも1つを含むことができる。ユーザー端末から受信されたイメージは、メモリ(234)に格納されたり、データ認識モジュール(330)に提供されたりすることができる。 The data collection module (310) may be configured to receive an image including a user's face from each of a plurality of user terminals through the communication module (238) while the instant messaging application is operating. According to one embodiment, the data collection module (310) may receive an image including a user's face from an active user terminal of a user account after subscribing to the instant messaging application of the user account. For example, the received image may include not only the user's face but also at least one of other body parts of the user (e.g., neck, shoulders, arms, etc.) or clothing. The image received from the user terminal may be stored in the memory (234) or provided to the data recognition module (330).

データ収集モジュール(310)は、インスタントメッセージングアプリケーションが動作される間に、ユーザー端末からユーザーアカウントに関連した情報を、通信モジュール(238)を通じて受信するように構成されることができる。一実施例によると、データ収集モジュール(310)は、ユーザー端末からユーザーアカウントに関連した性別を受信するように構成されることができる。他の実施例によると、データ収集モジュール(310)は、ユーザー端末からユーザーアカウントに関連した関心事情報を受信するように構成されることができる。さらに他の実施例によると、データ収集モジュール(310)は、ユーザーアカウントに関連した複数のユーザーアカウントに対する情報を受信することができる。例えば、このような複数のユーザーアカウントは、ユーザーアカウントの友人リストとして格納されることができる。 The data collection module (310) may be configured to receive information related to the user account from the user terminal through the communication module (238) while the instant messaging application is operating. According to one embodiment, the data collection module (310) may be configured to receive gender related to the user account from the user terminal. According to another embodiment, the data collection module (310) may be configured to receive interest information related to the user account from the user terminal. According to yet another embodiment, the data collection module (310) may receive information for multiple user accounts related to the user account. For example, such multiple user accounts may be stored as a friend list for the user account.

データ収集モジュール(310)は、ユーザーアカウントがインスタントメッセージングアプリケーションでマッチングされた1つ以上のユーザーアカウントに対する情報を、通信モジュール(238)を通じて受信することができる。一実施例によると、このようなマッチングされた1つ以上のユーザーアカウントのリストは、ユーザーアカウントの使用履歴に格納されることができる。このようなマッチングされた1つ以上のユーザーアカウントは、ユーザーアカウントとビデオ通話またはテキストチャットサービスを行ったか否かに関係なく、ユーザーアカウントの使用履歴に格納されることができる。 The data collection module (310) may receive information on one or more user accounts with which the user account is matched in an instant messaging application through the communication module (238). According to one embodiment, a list of such one or more matched user accounts may be stored in the user account's usage history. Such one or more matched user accounts may be stored in the user account's usage history regardless of whether a video call or text chat service has been performed with the user account.

データ収集モジュール(310)は、ユーザーアカウント(例えば、第1のユーザーアカウント)と他のユーザーアカウント(例えば、第2のユーザーアカウント)間のビデオ通話中に生成された情報および/またはデータを、通信モジュール(238)を通じて受信するように構成されることができる。一実施例によると、第1のユーザーアカウントと第2のユーザーアカウントとのビデオ通話セッション中に、データ収集モジュール(310)は、第2のユーザーアカウントの第1のユーザーアカウントに対する評価情報を受信することができる。このような第2のユーザーアカウントの第1のユーザーアカウントに対する評価情報は、第1のユーザーアカウントに関連して格納されることができる。他の実施例によると、第1のユーザーアカウントと第2のユーザーアカウントとのビデオ通話セッション中に、データ収集モジュール(310)は、第1のユーザーアカウントの第2のユーザーアカウントに対する評価情報を受信し、このような評価情報は、第1のユーザーアカウントに関連して格納されることができる。ここで、評価情報は、各ユーザーアカウントまたはユーザーの特徴を示すアイコンを含む評価項目および各評価項目に対する数(number)を含むことができる。さらに他の実施例によると、第1のユーザーアカウントと第2のユーザーアカウントとのビデオ通話セッション中に、データ収集モジュール(310)は、第2のユーザーアカウントの第1のユーザーアカウントに対する申告情報を受信することができる。例えば、申告情報は、ビデオ通話時に第1のユーザーアカウントの情報と異なる情報(例えば、知られた性別と実際イメージ内の人の性別が異なる場合)、第1のユーザーアカウントのユーザーが行った不適切な事項などに関する申告項目を含むことができ、各申告項目に対する回数も含むことができる。さらに他の実施例によると、第1のユーザーアカウントが第2のユーザーアカウントとビデオ通話サービスを進める間に、データの収集モジュール(310)は、第1のユーザーアカウントと第2のユーザーアカウント間のテキストメッセージを受信することができる。 The data collection module (310) may be configured to receive information and/or data generated during a video call between a user account (e.g., a first user account) and another user account (e.g., a second user account) through the communication module (238). According to one embodiment, during a video call session between the first user account and the second user account, the data collection module (310) may receive evaluation information of the second user account for the first user account. Such evaluation information of the second user account for the first user account may be stored in association with the first user account. According to another embodiment, during a video call session between the first user account and the second user account, the data collection module (310) may receive evaluation information of the first user account for the second user account, and such evaluation information may be stored in association with the first user account. Here, the evaluation information may include evaluation items including icons indicating the characteristics of each user account or user, and numbers for each evaluation item. According to yet another embodiment, during a video call session between the first user account and the second user account, the data collection module (310) may receive reporting information for the first user account from the second user account. For example, the reporting information may include reporting items regarding information different from the information of the first user account during the video call (e.g., when the known gender and the gender of the person in the actual image are different), inappropriate behaviors performed by the user of the first user account, etc., and may also include the number of times for each reporting item. According to yet another embodiment, while the first user account is conducting a video call service with the second user account, the data collection module (310) may receive text messages between the first user account and the second user account.

データ収集モジュール(310)は、ユーザーアカウント(例えば、第1のユーザーアカウント)と他のユーザーアカウント(例えば、第2のユーザーアカウント)間のビデオ通話中に利用されたユーザー活動情報を受信するように構成されることができる。一実施例によると、このようなユーザー活動情報は、第1のユーザーアカウントと第2のユーザーアカウントとのビデオ通話セッション中に、第1のユーザーアカウントから受信された情報だけでなく、このようなビデオ通話が遂行される前に第1のユーザーアカウントから受信された情報を含むことができる。例えば、ユーザー活動情報は、第1のユーザーアカウントが第2のユーザーアカウントとのビデオ通話セッション中に利用したブラー(blur)アイテム(item)、顔面効果アイテム、ロックイン(lock-in)アイテム、シェイク(shake)アイテムまたはステッカーアイテムのうち少なくとも1つに対する情報を含むことができる。ここで、顔面効果アイテムは、第1のユーザーアカウントの顔に適用可能な顔フィルター、第1のユーザーアカウントの顔を縮小するアイテムまたは第1のユーザーアカウントの顔に適用可能な美容(beauty)アイテムのうち少なくとも1つのアイテムを含むことができる。データ収集モジュール(310)で受信された情報および/またはデータは、ユーザーアカウントに関連してメモリ(234)に格納されたり、データ認識モジュール(330)および/または性別検証モジュール(340)に提供されたりすることができる。 The data collection module (310) may be configured to receive user activity information used during a video call between a user account (e.g., a first user account) and another user account (e.g., a second user account). According to an embodiment, such user activity information may include information received from the first user account during a video call session between the first user account and the second user account, as well as information received from the first user account before such a video call is performed. For example, the user activity information may include information on at least one of a blur item, a facial effect item, a lock-in item, a shake item, or a sticker item used by the first user account during a video call session with the second user account. Here, the facial effect item may include at least one of a facial filter applicable to the face of the first user account, an item for reducing the face of the first user account, or a beauty item applicable to the face of the first user account. The information and/or data received by the data collection module (310) may be stored in memory (234) in association with the user account and/or provided to the data recognition module (330) and/or gender verification module (340).

データ学習モジュール(320)は、メモリ(234)または通信モジュール(238)を通じて複数の学習イメージを示すデータを受信することができる。例えば、複数の学習イメージは、男性と女性の区別が明確に示されるように学習され得る任意のイメージセットを含むことができる。また、複数の学習イメージを示すデータは、複数の人物や顔面を含むイメージを示すデータ、このようなイメージから抽出されたイメージフィーチャー(image feature)を示すデータなどであることができる。イメージフィーチャーを示すデータは、イメージを示したり、特徴化したりすることができる任意の情報およびデータを含むことができ、例えば、イメージ内のオブジェクト(例えば、顔面、衣服など)を示したり、特徴化したりする情報およびデータを含むことができる。一例として、イメージ内のオブジェクト(例えば、顔面、衣服など)を示したり、特徴化したりする情報およびデータは、オブジェクトに対する特徴点、オブジェクトに対するセグメンテーションマスクまたはオブジェクトに対するデプス(depth)のうち少なくとも1つに対する情報およびデータを含むことができる。これに加えて、データ学習モジュール(320)は、複数の学習イメージ内の人物または顔面に対する性別を示すデータを一緒に受信することができる。例えば、性別を示すデータは、男性または女性を示すデータを含むことができる。 The data learning module (320) may receive data indicative of a plurality of learning images through the memory (234) or the communication module (238). For example, the plurality of learning images may include any set of images that may be learned to clearly show the distinction between males and females. The data indicative of the plurality of learning images may include data indicative of an image including a plurality of people or faces, data indicative of image features extracted from such an image, and the like. The data indicative of image features may include any information and data that may indicate or characterize an image, and may include, for example, information and data indicative of or characterizing an object (e.g., face, clothing, etc.) in an image. As an example, the information and data indicative of or characterizing an object (e.g., face, clothing, etc.) in an image may include information and data on at least one of feature points for the object, a segmentation mask for the object, or a depth for the object. In addition, the data learning module (320) may also receive data indicative of the gender of a person or face in the plurality of learning images. For example, data indicating gender may include data indicating male or female.

データ学習モジュール(320)は、複数の学習イメージを入力して性別を出力するように機械学習を遂行することにより、人工ニューラルネットワークモデルを生成することができる。一実施例によると、データ学習モジュール(320)は、複数の学習イメージおよび/またはこれから抽出されたイメージフィーチャーを人工ニューラルネットワークモデルに入力して、教師なし学習(unsupervised leanring)を通じて性別を出力するように構成されることができる。また、データ学習モジュール(320)は、学習イメージ内の人物または顔面に関連した性別を示すデータに基づいて学習イメージに対して出力された性別が間違っていると判断される場合、学習イメージに対するラベリング(labeling)、すなわち、教師あり学習(supervised learning)を遂行して、人工ニューラルネットワークモデルを生成したり、更新したりするように構成されることができる。これにより、データ学習モジュール(320)は、複数の学習イメージおよび学習イメージ内の人物または顔面に関連した性別を示すデータを利用して、半教師あり(semi-supervised learning)を通じて人工ニューラルネットワークモデルを生成したり、更新したりすることができる。他の実施例によると、データ学習モジュール(320)は、ユーザーアカウントに関連した学習情報を入力して性別を出力するように機械学習を遂行することにより、人工ニューラルネットワークモデルを生成することができる。ここで、ユーザーアカウントに関連した学習情報は、インスタントメッセージングアプリケーションを介して受信されたり、処理されたりすることができるユーザーアカウントに関連した情報を含むことができる。例えば、ユーザーアカウントに関連した学習情報は、ユーザーアカウントに関連した評価情報、関心事情報、履歴情報、申告情報、友人リスト、ユーザー活動情報またはテキストメッセージのうち少なくとも1つを含むことができるが、これに限定されない。このとき、データ学習モジュール(320)は、ユーザーアカウントに関連した学習情報だけでなく、学習イメージを一緒に人工ニューラルネットワークモデルに入力して性別を出力するように機械学習することにより、人工ニューラルネットワークモデルを生成したり、更新したりすることができる。 The data learning module (320) may generate an artificial neural network model by performing machine learning to input a plurality of training images and output gender. According to one embodiment, the data learning module (320) may be configured to input a plurality of training images and/or image features extracted therefrom to an artificial neural network model and output gender through unsupervised learning. In addition, the data learning module (320) may be configured to perform labeling, i.e., supervised learning, on the training image to generate or update an artificial neural network model when it is determined that the gender output for the training image is incorrect based on data indicating the gender associated with a person or face in the training image. Thus, the data learning module (320) may generate or update an artificial neural network model through semi-supervised learning using a plurality of learning images and data indicating gender associated with a person or face in the learning images. According to another embodiment, the data learning module (320) may generate an artificial neural network model by performing machine learning to input learning information associated with a user account and output gender. Here, the learning information associated with a user account may include information associated with a user account that may be received or processed via an instant messaging application. For example, the learning information associated with a user account may include, but is not limited to, at least one of rating information, interest information, history information, declaration information, friend list, user activity information, or text messages associated with a user account. In this case, the data learning module (320) may generate or update an artificial neural network model by performing machine learning to input not only the learning information associated with the user account but also the learning images into the artificial neural network model and output gender.

データ認識モジュール(330)は、ユーザーアカウントから受信された顔面を含むイメージを受信し、受信されたイメージを人工ニューラルネットワークモデルに入力して、受信されたイメージ内の顔面または人物に関連した性別を出力するように構成されることができる。ここで、人工ニューラルネットワークモデルは、データ学習モジュール(320)によって学習された人工ニューラルネットワークモデルを含むことができる。一実施例によると、データ認識モジュール(330)は、顔面を含むイメージから抽出されたイメージフィーチャーを学習された人工ニューラルネットワークモデルに入力し、イメージ内の人物または顔面に関連した性別を出力するように構成されることができる。また、出力された性別が実際の性別と異なると判定された場合、受信されたイメージおよび実際の性別をデータ学習モジュール(320)に提供して、人工ニューラルネットワークモデルが再学習されるように構成されることができる。他の実施例によると、データ認識モジュール(330)は、データ学習モジュール(320)で人工ニューラルネットワークモデルの学習時に使用されたユーザーアカウントに関連した学習情報に対応する情報を受信し、受信された情報を人工ニューラルネットワークモデルに入力して性別を出力することができる。このとき、このような情報だけでなく、受信されたイメージも一緒に、学習された人工ニューラルネットワークモデルに入力されて性別が出力されることができる。ユーザーアカウントの性別を検証するために、人工ニューラルネットワークモデルから出力された性別は性別検証モジュール(340)に提供されることができる。 The data recognition module (330) may be configured to receive an image including a face received from a user account, input the received image to an artificial neural network model, and output a gender associated with a face or person in the received image. Here, the artificial neural network model may include an artificial neural network model trained by the data learning module (320). According to one embodiment, the data recognition module (330) may be configured to input image features extracted from an image including a face to the trained artificial neural network model, and output a gender associated with a person or face in the image. In addition, if it is determined that the output gender is different from the actual gender, the data recognition module (330) may be configured to provide the received image and the actual gender to the data learning module (320) so that the artificial neural network model is retrained. According to another embodiment, the data recognition module (330) may receive information corresponding to learning information associated with a user account used in training the artificial neural network model in the data learning module (320), and input the received information to the artificial neural network model to output gender. At this time, this information, as well as the received image, can be input to a trained artificial neural network model to output the gender. The gender output from the artificial neural network model can be provided to a gender verification module (340) to verify the gender of the user account.

性別検証モジュール(340)は、データ認識モジュール(330)によって提供された性別情報に基づいてユーザーアカウントのインスタントメッセージングアプリケーションの加入時に受信されたユーザーアカウントに対する性別を検証することができる。一実施例によると、性別検証モジュール(340)は、出力された性別が受信されたユーザーアカウントに対する性別と異なる場合、ユーザーアカウントに利用の停止、加入の脱退などのようなペナルティを付与することができる。他の実施例によると、性別検証モジュール(340)は、出力された性別が受信されたユーザーアカウントに対する性別と異なる場合、別途のモニタリングシステムにユーザーアカウントに関連した顔面を含むイメージを送信することができる。ここで、別途のモニタリングシステムは、性別検証モジュール(340)で遂行される検証方式またはアルゴリズムとは異なる方式またはアルゴリズムでユーザーアカウントの性別を検証するシステムを含むことができ、例えば、モニタリング要員が受信されたイメージを直接検査するように構成されることができる。これとは異なり、性別検証モジュール(340)は、出力された性別が受信されたユーザーアカウントに対する性別と同一である場合、ユーザーアカウントの性別に対する検証を完了するように構成されることができる。 The gender verification module (340) may verify the gender of the user account received when the user account subscribes to the instant messaging application based on the gender information provided by the data recognition module (330). According to one embodiment, the gender verification module (340) may impose a penalty such as suspension of use or withdrawal of subscription on the user account if the output gender is different from the gender of the received user account. According to another embodiment, the gender verification module (340) may transmit an image including a face related to the user account to a separate monitoring system if the output gender is different from the gender of the received user account. Here, the separate monitoring system may include a system that verifies the gender of the user account using a method or algorithm different from the verification method or algorithm performed by the gender verification module (340), and may be configured, for example, for monitoring personnel to directly inspect the received image. Alternatively, the gender verification module (340) may be configured to complete the verification of the gender of the user account if the output gender is the same as the gender of the received user account.

性別検証モジュール(340)は、データ認識モジュール(330)から出力された性別情報だけでなく、ユーザーアカウントに関連した情報を受信して、出力された性別情報および受信された情報に基づいてユーザーアカウントの性別を検証するように構成されることができる。一実施例によると、ユーザーアカウントに関連した情報は、ユーザーアカウントからインスタントメッセージングアプリケーションを介して受信されたり、ユーザーアカウントがインスタントメッセージングアプリケーション上で活動時に生成または処理されたりした情報を含むことができる。例えば、ユーザーアカウントに関連した情報は、ユーザーアカウントに関連した評価情報、関心事情報、履歴情報、申告情報、友人リスト、ユーザー活動情報またはテキストメッセージのうち少なくとも1つを含むことができるが、これに限定されない。ここで、ユーザー活動情報は、ユーザーアカウントが他のユーザーアカウントとのビデオ通話をする間に利用したブラーアイテム、顔面効果アイテム、ロックインアイテム、シェイクアイテムまたはステッカーアイテムのうち少なくとも1つに対する情報を含むことができる。 The gender verification module (340) may be configured to receive information related to the user account as well as the gender information output from the data recognition module (330) and verify the gender of the user account based on the output gender information and the received information. According to an embodiment, the information related to the user account may include information received from the user account via an instant messaging application or information generated or processed when the user account is active on the instant messaging application. For example, the information related to the user account may include, but is not limited to, at least one of rating information, interest information, history information, declaration information, friend list, user activity information, or text messages related to the user account. Here, the user activity information may include information on at least one of a blur item, a facial effect item, a lock-in item, a shake item, or a sticker item used by the user account during a video call with another user account.

一実施例によると、性別検証モジュール(340)は、受信されたユーザーアカウントに関連した情報およびデータ認識モジュール(330)から出力された性別に基づいてルールベース(Rule-based)学習および予測を通じて受信されたユーザーアカウントの性別を検証するように構成されることができる。例えば、性別検証モジュール(340)は、出力された性別情報またはユーザーアカウントに関連した情報のうち少なくとも1つに基づいてユーザーアカウントの性別をマッチングするテーブルを生成することができる。これにより、性別検証モジュール(340)は、生成されたテーブルに基づいて受信されたユーザーアカウントに関連した情報およびデータ認識モジュール(330)から受信された出力された性別に対応する性別を抽出し、抽出された性別を受信されたユーザーアカウントの性別と比較することができる。他の実施例において、性別検証モジュール(340)は、受信されたユーザーアカウントに関連した情報およびデータ認識モジュール(330)から出力された性別を利用し、既に知られた機械学習の技法を通じて、受信されたユーザーアカウントの性別情報を検証することができる。例えば、機械学習の技法は、Find-Sアルゴリズム、Version Spaceアルゴリズム、候補消去(Candidate Elimination)アルゴリズムを含むことができるが、これに限定されない。さらに他の実施例によると、性別検証モジュール(340)は、受信されたユーザーアカウントに関連した情報を利用して、ユーザーアカウントの性別の出力に使用された加重値を変更したり、ユーザーの性別の出力に関連した信頼度(score)を変更したりすることができる。性別検証モジュール(340)は、受信されたユーザーアカウントに関連した情報およびデータ認識モジュール(330)から出力された性別に基づいて受信されたユーザーアカウントが実際と異なる場合、別途のモニタリングシステムにユーザーアカウントの顔面が含まれたイメージを提供するように構成されることができる。 According to one embodiment, the gender verification module (340) may be configured to verify the gender of the received user account through rule-based learning and prediction based on the information related to the received user account and the gender output from the data recognition module (330). For example, the gender verification module (340) may generate a table that matches the gender of the user account based on at least one of the output gender information or the information related to the user account. Thus, the gender verification module (340) may extract a gender corresponding to the information related to the received user account and the output gender received from the data recognition module (330) based on the generated table, and compare the extracted gender with the gender of the received user account. In another embodiment, the gender verification module (340) may verify the gender information of the received user account through a known machine learning technique using the information related to the received user account and the gender output from the data recognition module (330). For example, machine learning techniques may include, but are not limited to, a Find-S algorithm, a Version Space algorithm, and a Candidate Elimination algorithm. According to another embodiment, the gender verification module (340) may use information related to the received user account to change a weighting value used in outputting the gender of the user account or change a confidence score related to the output of the user's gender. The gender verification module (340) may be configured to provide an image including the face of the user account to a separate monitoring system if the received user account is different from the actual gender based on the information related to the received user account and the gender output from the data recognition module (330).

図3では、ユーザーの性別を検証するために、情報処理システム(130)のプロセッサ(236)が、データ収集モジュール(310)、データ学習モジュール(320)、データ認識モジュール(330)および性別検証モジュール(340)を含むように構成されているが、これに限定されず、ユーザー端末のプロセッサ(218)が、データ収集モジュール(310)、データ学習モジュール(320)、データ認識モジュール(330)および性別検証モジュール(340)と同一または類似の構成を含んでユーザーの性別を検証するように構成されることができる。また、図3では、データ収集モジュール(310)、データ学習モジュール(320)、データ認識モジュール(330)および性別検証モジュール(340)が別途のモジュールとして図示されているが、これに限定されず、このようなモジュール(310~340)のそれぞれは、1つ以上のモジュールとして結合されて具現されることができる。 In FIG. 3, the processor (236) of the information processing system (130) is configured to include a data collection module (310), a data learning module (320), a data recognition module (330), and a gender verification module (340) to verify the gender of the user, but is not limited thereto, and the processor (218) of the user terminal may be configured to verify the gender of the user by including the same or similar configuration as the data collection module (310), the data learning module (320), the data recognition module (330), and the gender verification module (340). Also, in FIG. 3, the data collection module (310), the data learning module (320), the data recognition module (330), and the gender verification module (340) are illustrated as separate modules, but is not limited thereto, and each of these modules (310-340) may be combined and embodied as one or more modules.

図4は、本開示の一実施例に係る入力イメージから入力イメージ内の人物または顔面に関連した性別を出力するように構成された人工ニューラルネットワークモデル(400)を示す概略図である。人工ニューラルネットワークモデル(400)は、機械学習(Machine Learning)技術と認知科学において、生物学的ニューラルネットワークの構造に基づいて具現された統計学的学習アルゴリズムまたはそのアルゴリズムを実行する構造である。一実施例によると、人工ニューラルネットワークモデル(400)は、生物学的ニューラルネットワークのようにシナプスの結合でネットワークを形成した人工ニューロンであるノード(Node)がシナプスの加重値を繰り返して調整し、特定の入力に対応した正しい出力と推論された出力間の誤差が減少するように学習することによって、問題解決能力を有する機械学習モデルを示すことができる。例えば、人工ニューラルネットワークモデル(400)は、機械学習、ディープランニングなどの人工知能学習法に使用される任意の確率モデル、ニューラルネットワークモデルなどを含むことができる。 FIG. 4 is a schematic diagram illustrating an artificial neural network model (400) configured to output gender associated with a person or face in an input image from an input image according to an embodiment of the present disclosure. The artificial neural network model (400) is a statistical learning algorithm or a structure for executing the algorithm, which is implemented based on the structure of a biological neural network in machine learning technology and cognitive science. According to an embodiment, the artificial neural network model (400) can represent a machine learning model having a problem-solving ability by learning such that a node, which is an artificial neuron formed by synaptic connections like a biological neural network, repeatedly adjusts the weight value of the synapse and reduces the error between a correct output corresponding to a specific input and an inferred output. For example, the artificial neural network model (400) may include any probability model, neural network model, etc. used in artificial intelligence learning methods such as machine learning and deep learning.

一実施例によると、人工ニューラルネットワークモデル(400)は、顔面または人物が含まれた学習イメージおよび/またはこのような学習イメージから抽出されたイメージフィーチャーを入力して性別を出力するように構成された人工ニューラルネットワークモデルを含むことができる。他の実施例において、人工ニューラルネットワークモデル(400)は、インスタントメッセージングアプリケーションを介して受信、または処理される学習情報を入力して性別を出力するように構成された人工ニューラルネットワークモデルを含むことができる。さらに他の実施例において、人工ニューラルネットワークモデル(400)は、インスタントメッセージングアプリケーションを介して受信、または処理される学習情報および顔面または人物が含まれた学習イメージ(または学習イメージから抽出されたイメージフィーチャー)を入力して性別を出力するように構成された人工ニューラルネットワークモデルを含むことができる。 According to one embodiment, the artificial neural network model (400) may include an artificial neural network model configured to input training images including faces or people and/or image features extracted from such training images and output gender. In another embodiment, the artificial neural network model (400) may include an artificial neural network model configured to input training information received or processed via an instant messaging application and output gender. In yet another embodiment, the artificial neural network model (400) may include an artificial neural network model configured to input training information received or processed via an instant messaging application and training images including faces or people (or image features extracted from the training images) and output gender.

人工ニューラルネットワークモデル(400)は、多層のノードとこれらの間の連結で構成された多層パーセプトロン(MLP:multilayer perceptron)で具現される。本実施例に係る人工ニューラルネットワークモデル(400)は、MLPを含む多様な人工ニューラルネットワークモデルの構造のうち1つを利用して具現されることができる。図4に図示されたように、人工ニューラルネットワークモデル(400)は、外部からの入力信号またはデータ(410)を受信する入力層(420)、入力データに対応した出力信号またはデータ(450)を出力する出力層(440)、入力層(420)と出力層(440)の間に位置し、入力層(420)からの信号を受けて特性を抽出して出力層(440)に伝達するn個(ここで、nは正の整数)の隠れ層(430_1~430_n)で構成される。ここで、出力層(440)は、隠れ層(430_1~430_n)から信号を受けて外部に出力する。 The artificial neural network model (400) is implemented as a multilayer perceptron (MLP) consisting of multiple nodes and connections between them. The artificial neural network model (400) according to the present embodiment can be implemented using one of various artificial neural network model structures including MLP. As shown in FIG. 4, the artificial neural network model (400) includes an input layer (420) that receives an input signal or data (410) from the outside, an output layer (440) that outputs an output signal or data (450) corresponding to the input data, and n (where n is a positive integer) hidden layers (430_1 to 430_n) that are located between the input layer (420) and the output layer (440) and receive a signal from the input layer (420), extract characteristics, and transmit them to the output layer (440). Here, the output layer (440) receives signals from the hidden layers (430_1 to 430_n) and outputs them to the outside.

人工ニューラルネットワークモデル(400)の学習方法には、教師信号(正解)の入力によって問題の解決に最適化されるように学習する教師あり学習(Supervised Learning)方法と、教師信号を必要としない教師なし学習(Unsupervised Learning)方法がある。データ学習モジュール(320)は、学習イメージ内の顔面または人物に関連した性別情報を提供するために教師あり学習(Supervised Learning)を利用して入力イメージに対する分析を遂行し、イメージに対応される性別を抽出できるように人工ニューラルネットワークモデル(400)を学習させることができる。このように学習された人工ニューラルネットワークモデル(400)は、データ認識モジュール(330)に提供、またはアクセスされることができ、ユーザーアカウントから受信された顔面を含むイメージの入力に応答して、ユーザーアカウントに関連した性別を出力することができる。 There are two types of learning methods for the artificial neural network model (400): a supervised learning method in which the model learns to be optimized for solving a problem by inputting a teacher signal (correct answer), and an unsupervised learning method in which the model does not require a teacher signal. The data learning module (320) can train the artificial neural network model (400) to perform an analysis on an input image using supervised learning to provide gender information associated with a face or person in a learning image, and to extract a gender corresponding to the image. The artificial neural network model (400) trained in this manner can be provided to or accessed by the data recognition module (330), and can output a gender associated with a user account in response to an input of an image including a face received from the user account.

一実施例によると、図4に図示されたように、性別情報を抽出できる人工ニューラルネットワークモデル(400)の入力変数は、顔面または人物を含む学習イメージになることができる。例えば、人工ニューラルネットワークモデル(400)の入力層(420)に入力される入力変数は、学習イメージを1つのベクトルデータ要素で構成した、イメージベクトル(410)になることができる。顔面または人物を含む学習イメージの入力に応答して、人工ニューラルネットワークモデル(400)の出力層(440)から出力される出力変数は、性別を示すベクトル(450)になることができる。これに加えて、人工ニューラルネットワークモデル(400)の出力層(440)は、出力された性別に対する信頼度または精度を示すベクトルを出力するように構成されることができる。例えば、このような出力に対する信頼度または精度を示すベクトルは、スコア(score)として解釈、または表示されることができる。本開示において、人工ニューラルネットワークモデル(400)の出力変数は、以上で説明されたタイプに限定されず、性別情報および性別情報の信頼度に関連した多様な形態で示すことができる。 According to an embodiment, as illustrated in FIG. 4, the input variable of the artificial neural network model (400) capable of extracting gender information may be a training image including a face or a person. For example, the input variable input to the input layer (420) of the artificial neural network model (400) may be an image vector (410) in which the training image is composed of one vector data element. In response to the input of the training image including a face or a person, the output variable output from the output layer (440) of the artificial neural network model (400) may be a vector (450) indicating gender. In addition, the output layer (440) of the artificial neural network model (400) may be configured to output a vector indicating the confidence or accuracy of the output gender. For example, the vector indicating the confidence or accuracy of such an output may be interpreted or displayed as a score. In the present disclosure, the output variable of the artificial neural network model (400) is not limited to the types described above and may be indicated in various forms related to gender information and the confidence of the gender information.

このように人工ニューラルネットワークモデル(400)の入力層(420)と出力層(440)に複数の入力変数と対応される複数の出力変数がそれぞれマッチングされ、入力層(420)、隠れ層(430_1~430_n)および出力層(440)に含まれたノード間のシナプス値が調整されることにより、特定の入力に対応した正しい出力が抽出され得るように学習されることができる。このような学習過程を通じて、人工ニューラルネットワークモデル(400)の入力変数に隠されている特性を把握することができ、入力変数に基づいて計算された出力変数と目標出力間の誤差が減少するように人工ニューラルネットワークモデル(400)のノード間のシナプス値(または加重値)を調整することができる。このように学習された人工ニューラルネットワークモデル(400)を利用して、入力されたイメージに応答して、入力イメージ内の人物または顔面に対する性別情報を出力することができる。 In this way, the input layer (420) and output layer (440) of the artificial neural network model (400) are matched with a plurality of input variables and a plurality of corresponding output variables, and the synapse values between the nodes included in the input layer (420), hidden layers (430_1 to 430_n), and output layer (440) are adjusted, so that the artificial neural network model can learn to extract a correct output corresponding to a specific input. Through this learning process, the characteristics hidden in the input variables of the artificial neural network model (400) can be grasped, and the synapse values (or weights) between the nodes of the artificial neural network model (400) can be adjusted so that the error between the output variables calculated based on the input variables and the target output is reduced. Using the artificial neural network model (400) trained in this way, gender information for a person or face in an input image can be output in response to the input image.

他の実施例によると、性別情報を抽出できる人工ニューラルネットワークモデル(400)の入力変数は、インスタントメッセージングアプリケーションを介して受信、または処理される学習情報を含むことができる。例えば、インスタントメッセージングアプリケーションを介して受信、または処理される学習情報は、評価情報、関心事情報、履歴情報、申告情報、友人リスト、ユーザー活動情報またはテキストメッセージのうち少なくとも1つを含むことができるが、これに限定されない。このような学習情報に応答して、人工ニューラルネットワークモデル(400)の出力層(440)は、性別を示すベクトルおよび性別に対する信頼度または精度を示すベクトルになることができる。さらに他の実施例によると、性別情報を抽出できる人工ニューラルネットワークモデル(400)の入力変数は、このような学習情報および顔面を含む学習イメージを含むことができ、人工ニューラルネットワークモデル(400)の出力層(440)は、性別を示すベクトルおよび性別に対する信頼度または精度を示すベクトルになることができる。ここで、特定の入力に対応した正しい出力が抽出され得るように入力層(420)、隠れ層(430_1~430_n)および出力層(440)に含まれたノード間の加重値の値が調整されることができる。このような性別情報を抽出できる人工ニューラルネットワークモデル(400)は、データ認識モジュール(330)に提供、またはアクセスされることができ、ユーザーアカウントに関連して顔面または人物が含まれたイメージおよび/またはユーザーアカウントに関連した情報が人工ニューラルネットワークモデル(400)に入力され、ユーザーアカウントの性別、さらに性別の信頼度または精度を示すスコアが出力されることができる。 According to another embodiment, the input variables of the artificial neural network model (400) capable of extracting gender information may include learning information received or processed via an instant messaging application. For example, the learning information received or processed via an instant messaging application may include, but is not limited to, at least one of rating information, interest information, history information, declaration information, friend list, user activity information, or text messages. In response to such learning information, the output layer (440) of the artificial neural network model (400) may be a vector indicating gender and a vector indicating confidence or accuracy for gender. According to yet another embodiment, the input variables of the artificial neural network model (400) capable of extracting gender information may include such learning information and a learning image including a face, and the output layer (440) of the artificial neural network model (400) may be a vector indicating gender and a vector indicating confidence or accuracy for gender. Here, the weights between the nodes included in the input layer (420), hidden layers (430_1 to 430_n), and output layer (440) can be adjusted so that a correct output corresponding to a specific input can be extracted. The artificial neural network model (400) capable of extracting such gender information can be provided to or accessed by the data recognition module (330), and an image including a face or person in association with a user account and/or information related to the user account can be input to the artificial neural network model (400), and the gender of the user account and a score indicating the confidence or accuracy of the gender can be output.

図5は、本開示の一実施例に係るユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法(500)を示すフローチャートである。このような方法は、情報処理システム(130)またはユーザー端末(112、114、116)によって実行されることができ、第1のユーザーアカウントに関連した性別(例えば、ユーザーの性別)を受信するステップ(S510)で開始されることができる。一実施例によると、ユーザーアカウントのアプリケーション加入時にユーザーアカウントに関連した性別が直接入力されることができる。他の実施例において、ユーザーアカウントに関連した性別は、第1のユーザーアカウントに関連したアカウントに対する情報から抽出されることができる。 FIG. 5 is a flowchart illustrating a method (500) for verifying information received via an instant messaging application operating on a user terminal to provide a video call service according to one embodiment of the present disclosure. The method may be performed by an information processing system (130) or a user terminal (112, 114, 116) and may begin with a step (S510) of receiving a gender (e.g., a user's gender) associated with a first user account. According to one embodiment, the gender associated with the user account may be directly input when subscribing to an application for the user account. In another embodiment, the gender associated with the user account may be extracted from information for the account associated with the first user account.

そして、ステップ(S520)でアプリケーションが動作される間に、イメージセンサを通じて撮像された顔面が含まれたイメージが受信されることができる。例えば、イメージセンサは、ユーザーの顔面を含むイメージを生成できるようにユーザー端末の前面部および/または後面部に取り付けられることができる。一実施例によると、イメージセンサは、ユーザーアカウントが加入された後に自動的に動作され、映像を生成するように構成されることができる。生成されたイメージ内でユーザーアカウントの顔面が含まれたイメージが探知された場合、探知された顔面が含まれたイメージがユーザーアカウントの性別を検証するためにデータ認識モジュールに提供されることができる。 Then, while the application is operating in step (S520), an image including a face captured through the image sensor may be received. For example, the image sensor may be attached to the front and/or rear of the user terminal so as to generate an image including the user's face. According to one embodiment, the image sensor may be configured to be automatically operated and generate an image after a user account is registered. If an image including the face of the user account is detected within the generated images, the image including the detected face may be provided to a data recognition module to verify the gender of the user account.

次に、データ認識モジュールにより、受信されたイメージが人工ニューラルネットワークモデルに入力され、受信されたイメージ内に含まれた顔面に関連した性別を出力するステップ(S530)が遂行されることができる。ここで、人工ニューラルネットワークモデルは、データ学習モジュールにより、複数の学習イメージを示すデータおよび複数の学習イメージ内の人物に対する性別を示すデータに基づいて機械学習が行われ、生成されることができる。また、受信されたイメージは、ユーザーの顔面だけでなく、ユーザーの衣服を含むことができる。このようなイメージからイメージフィーチャーが抽出されることができ、抽出されたイメージフィーチャーが人工ニューラルネットワークモデルに入力されて性別が出力されることができる。 Next, the data recognition module may perform a step (S530) of inputting the received image into an artificial neural network model and outputting gender associated with the face included in the received image. Here, the artificial neural network model may be generated by machine learning performed by the data learning module based on data representing a plurality of training images and data representing gender for persons in the plurality of training images. In addition, the received image may include not only the user's face but also the user's clothing. Image features may be extracted from such an image, and the extracted image features may be input into the artificial neural network model to output gender.

また、ステップ(S540)において、性別検証モジュールが、出力された性別に基づいて受信された性別を検証するように構成されることができる。一実施例によると、第2のユーザーアカウントから第1のユーザーアカウントに対する評価情報が受信されることができ、性別検証モジュールは、受信された評価情報および出力された性別に基づいて受信された性別を検証することができる。他の実施例において、第1のユーザーアカウントに関連した関心事情報が受信されることができ、性別検証モジュールは、受信された関心事情報および出力された性別に基づいて受信された性別を検証することができる。さらに他の実施例によると、第1のユーザーアカウントが提供した1つ以上の第2のユーザーアカウントに対する評価情報が受信されることができ、性別検証モジュールは、受信された第1のユーザーアカウントが提供した、1つ以上の第2のユーザーアカウントに対する評価情報および出力された性別情報に基づいて受信された性別を検証するように構成されることができる。さらに他の実施例において、第1のユーザーアカウントと以前にマッチングされた相手である1つ以上の第2のユーザーアカウントが受信され、性別検証モジュールは、受信された1つ以上の第2のユーザーアカウントに対する情報および出力された性別に基づいて受信された性別を検証することができる。さらに他の実施例によると、第1のユーザーアカウントに対する申告情報が受信されることができ、性別検証モジュールは、受信された申告情報および出力された性別に基づいて受信された性別を検証するように構成されることができる。さらに他の実施例によると、アプリケーション内で第1のユーザーアカウントに関連した複数のユーザーアカウント(例えば、友人リスト)に対する情報が受信され、性別検証モジュールは、第1のユーザーアカウントに関連した複数のユーザーアカウントに対する情報(例えば、友人の性別および数)および出力された性別に基づいて受信された性別を検証することができる。さらに他の実施例において、第1のユーザーアカウントに対するユーザー活動情報が収集されることができ、性別検証モジュールは、収集されたユーザー活動情報および出力された性別に基づいて受信された性別を検証することができる。例えば、第1のユーザーアカウントに対するユーザー活動情報は、第1のユーザーアカウントが第2のユーザーアカウントとのビデオ通話をする間に利用したブラー(blur)アイテム(item)、顔面効果アイテム、ロックイン(lock-in)アイテム、シェイク(shake)アイテムまたはステッカーアイテムのうち少なくとも1つに対する情報を含むことができる。さらに他の実施例において、ユーザーアカウントと1つ以上の第2のユーザーアカウント間のテキストチャットの間に入力されたテキストが受信されることができ、性別検証モジュールは、受信されたテキストおよび出力された性別に基づいて受信された性別を検証するように構成されることができる。 Also, in step (S540), the gender verification module may be configured to verify the received gender based on the output gender. According to one embodiment, evaluation information for the first user account may be received from the second user account, and the gender verification module may verify the received gender based on the received evaluation information and the output gender. In another embodiment, interest information related to the first user account may be received, and the gender verification module may verify the received gender based on the received interest information and the output gender. According to yet another embodiment, evaluation information for one or more second user accounts provided by the first user account may be received, and the gender verification module may be configured to verify the received gender based on the evaluation information for one or more second user accounts provided by the received first user account and the output gender information. In yet another embodiment, one or more second user accounts that have previously been matched with the first user account are received, and the gender verification module may verify the received gender based on the received information for one or more second user accounts and the output gender. According to yet another embodiment, declared information for a first user account may be received, and the gender verification module may be configured to verify the received gender based on the received declared information and the output gender. According to yet another embodiment, information for a plurality of user accounts (e.g., a friend list) associated with the first user account in an application may be received, and the gender verification module may verify the received gender based on the information for the plurality of user accounts (e.g., the gender and number of friends) associated with the first user account and the output gender. In yet another embodiment, user activity information for the first user account may be collected, and the gender verification module may verify the received gender based on the collected user activity information and the output gender. For example, the user activity information for the first user account may include information on at least one of a blur item, a facial effect item, a lock-in item, a shake item, or a sticker item used by the first user account during a video call with the second user account. In yet another embodiment, text entered during a text chat between the user account and one or more second user accounts can be received, and the gender verification module can be configured to verify the received gender based on the received text and the output gender.

図6は、本開示の一実施例に係る出力された性別に基づいて受信された性別を検証するステップ(S540)の詳細なステップを示すフローチャートである。まず、性別検証モジュールは、出力された性別が受信された性別と同一であるか否かを判断するステップ(S610)で開始されることができる。出力された性別が受信された性別と異なる場合、受信されたイメージを別途のモニタリングシステムに提供することができる(S630)。これとは異なり、出力された性別が受信された性別と同一である場合、性別検証モジュールは、データ認識モジュールから受信された出力された性別に対する信頼度(例えば、スコア)が予め決定された信頼度以上であるか否かを決定することができる。例えば、人工ニューラルネットワークモデルにおいて出力された性別に対するスコアが89点以下である場合、出力された性別の30%程度の認識失敗率があると分析されることができ、この場合、予め決定された信頼度(スコア)は、90点に設定されることができる。出力された性別に対する信頼度が予め決定された信頼度以上である場合、受信された性別の検証が完了されることができる(S640)。これとは異なり、出力された性別に対する信頼度が予め決定された信頼度未満である場合、別途の検証システムに受信されたイメージが提供されることができる(S630)。 FIG. 6 is a flowchart showing detailed steps of the step of verifying the received gender based on the output gender according to one embodiment of the present disclosure (S540). First, the gender verification module may start with the step of determining whether the output gender is the same as the received gender (S610). If the output gender is different from the received gender, the received image may be provided to a separate monitoring system (S630). Alternatively, if the output gender is the same as the received gender, the gender verification module may determine whether the reliability (e.g., score) of the output gender received from the data recognition module is equal to or greater than a predetermined reliability. For example, if the score of the output gender in the artificial neural network model is 89 points or less, it may be analyzed that there is a recognition failure rate of about 30% of the output gender, and in this case, the predetermined reliability (score) may be set to 90 points. If the reliability of the output gender is equal to or greater than the predetermined reliability, the verification of the received gender may be completed (S640). Alternatively, if the confidence level for the output gender is less than a predetermined confidence level, the received image can be provided to a separate verification system (S630).

別途の検証システムは、受信されたイメージを分析して、受信された性別がユーザーアカウントに関連した性別と同一であるかを判定することができる(S650)。受信された性別がユーザーアカウントに関連した性別と異なると判定されると、ペナルティがユーザーアカウントに付与されることができる(S660)。これとは異なり、受信された性別がユーザーアカウントに関連した性別と同一であると判定されると、受信された性別の検証が完了されることができる(S640)。 A separate verification system may analyze the received image to determine whether the received gender is identical to the gender associated with the user account (S650). If it is determined that the received gender is different from the gender associated with the user account, a penalty may be applied to the user account (S660). Alternatively, if it is determined that the received gender is identical to the gender associated with the user account, verification of the received gender may be completed (S640).

図7は、本開示の一実施例に係るユーザーアカウントがインスタントメッセージングアプリケーションに加入される間に、ユーザーアカウントに関連した性別を受信する例示を示す図面である。ユーザー端末において第1の動作(710)および第2の動作(720)を通じて、インスタントメッセージングアプリケーションの加入が遂行されることができる。一実施例において、インスタントメッセージングアプリケーションは、ユーザー端末にインストールされて実行される多数のアプリケーションのうち1つであることができる。 FIG. 7 is a diagram illustrating an example of receiving a gender associated with a user account while the user account is subscribed to an instant messaging application according to one embodiment of the present disclosure. Subscription to the instant messaging application may be performed through a first operation (710) and a second operation (720) in the user terminal. In one embodiment, the instant messaging application may be one of multiple applications installed and executed on the user terminal.

インスタントメッセージングアプリケーションが動作される場合、ユーザーは、インスタントメッセージングアプリケーションの加入のためのインターフェースの提供を受けることができる。第1の動作(710)に図示されたように、他のサイトやアプリケーションのリスト(712)が画面に表示されることができる。ユーザーは、表示された他のウェブサイトまたはアプリケーションのリスト(712)の中で1つを選択し、選択されたウェブサイトまたはアプリケーションのユーザーアカウントでログインすることにより、インスタントメッセージングアプリケーションに連動加入することができる。ここで、他のウェブサイトは、任意のユーザーが既に加入している可能性の高いウェブサイトを含むことができ、ユーザーは、自分がすでに加入したウェブサイトを選択して、インスタントメッセージングアプリケーションの連動加入時に選択されたウェブサイトのアカウント情報が使用されることができる。選択されたウェブサイトのアカウント情報からユーザーの性別情報が抽出されることができ、情報処理システムは、抽出された性別情報を検証するように構成されることができる。第2の動作(720)に図示されたように、ユーザーは、インスタントメッセージングアプリケーションに加入時、または加入する間にユーザーの性別(722)および生まれ年(724)を入力するためのインターフェースの提供を受けることができる。受信されたユーザーの性別(722)および生まれ年(724)は、情報処理システムに提供されることができ、受信されたユーザーの性別(722)は、情報処理システムによって検証されることができる。 When the instant messaging application is operated, the user may be provided with an interface for subscribing to the instant messaging application. As illustrated in the first operation (710), a list of other sites or applications (712) may be displayed on the screen. The user may select one of the displayed list of other websites or applications (712) and log in with a user account of the selected website or application to subscribe to the instant messaging application. Here, the other websites may include websites to which any user is likely to have already subscribed, and the user may select a website to which he or she has already subscribed, and the account information of the selected website may be used when subscribing to the instant messaging application. The user's gender information may be extracted from the account information of the selected website, and the information processing system may be configured to verify the extracted gender information. As illustrated in the second operation (720), the user may be provided with an interface for inputting the user's gender (722) and birth year (724) when or during subscription to the instant messaging application. The received user gender (722) and year of birth (724) can be provided to an information processing system, and the received user gender (722) can be verified by the information processing system.

図8は、本開示の一実施例に係るインスタントメッセージングアプリケーションが動作される間に、イメージセンサを通じて撮像された複数のイメージから顔面が含まれたイメージを探知してビデオ通話サービスの相手に対する条件を入力する例示を示す図面である。ユーザーがインスタントメッセージングアプリケーションに加入した後に、第1の動作(810)に図示されたように、インスタントメッセージングアプリケーションによって動作された、ユーザー端末の前面部に配置されたイメージセンサを通じて入力映像データが生成され、画面に表示されることができる。 Figure 8 is a diagram showing an example of detecting an image including a face from a plurality of images captured through an image sensor and inputting requirements for a partner of a video call service while an instant messaging application according to one embodiment of the present disclosure is being operated. After a user subscribes to the instant messaging application, as shown in the first operation (810), input image data can be generated and displayed on the screen through an image sensor disposed on the front part of the user terminal operated by the instant messaging application.

ユーザー端末は、入力映像データからユーザーの顔面が含まれたイメージがあるか否かを判定することができる。第1の動作(810)に図示されたように、例えば、映像データからユーザーの顔面を探知する間に、笑顔の絵文字および「Finding a face」というテキスト(812)が表示されることができる。映像データからユーザーの顔面が探知された場合、ユーザーの顔面が含まれたイメージは、ユーザーに関連した性別を検証するのに使用されることができる。一実施例によると、ユーザーの顔面が含まれた1つのイメージがユーザーの性別を検証するのに使用されることができる。他の実施例によると、ユーザーの顔面が含まれた複数のイメージがユーザーの性別を検証するのに使用されることができる。この場合、顔面が含まれた複数のイメージは、ユーザーの顔面などを含むオブジェクトのデプス(depth)を決定するのに使用されることができ、オブジェクトのデプスに対する情報は、ユーザーの性別を検証するのに使用されることができる。これとは異なり、情報処理システムは、ユーザーの顔面が含まれた複数のイメージのそれぞれを、データ認識モジュール(330)に入力して複数の性別および信頼度を出力し、出力された複数の性別および信頼度を分析してユーザーの性別を検証することができる。 The user terminal may determine whether there is an image including the user's face from the input video data. As illustrated in the first operation (810), for example, a smiley face emoji and the text "Finding a face" (812) may be displayed while detecting the user's face from the video data. If the user's face is detected from the video data, the image including the user's face may be used to verify the gender associated with the user. According to one embodiment, one image including the user's face may be used to verify the user's gender. According to another embodiment, multiple images including the user's face may be used to verify the user's gender. In this case, the multiple images including the face may be used to determine the depth of an object including the user's face, and the information on the object's depth may be used to verify the user's gender. Alternatively, the information processing system may input each of the multiple images including the user's face to the data recognition module (330) to output multiple genders and confidence levels, and analyze the output multiple genders and confidence levels to verify the user's gender.

第1の動作(810)に図示されたように、ユーザーがインスタントメッセージングアプリケーションに加入した後、複数のアイコン(814、816、818、820)が画面に表示されることができる。一例として、アイコン(814)が選択されると、ユーザーのプロフィールに関連した情報が表示されることができる。他の例として、アイコン(816)が選択されると、インスタントメッセージングアプリケーションで提供するショップ(shop)に関連した情報が表示されることができる。さらに他の例として、アイコン(818)が選択されると、ユーザーアカウントに関連した複数のユーザーアカウントに対する情報(例えば、友人リスト)および複数のユーザーアカウントと以前にやり取りしたメッセージに対する情報が表示されることができる。さらに他の例として、アイコン(820)が選択されると、ユーザーアカウントの使用履歴(例えば、ユーザーアカウントと以前にマッチングされたユーザーリストなど)に対する情報が表示されることができる。また、第1の動作(810)に図示されたように、ユーザーアカウントがビデオ通話サービスを希望する相手に対する情報を指定できる「I am searching for anyone in everywhere」というテキスト(822)が表示されることができる。テキスト(822)が選択される場合(例えば、タッチされる場合)、第2の動作(830)に図示されたように、ユーザーがビデオ通話サービスの相手として希望する条件、例えば、性別および地域などを入力できるインターフェースが提供される。 As illustrated in the first operation (810), after a user subscribes to the instant messaging application, a number of icons (814, 816, 818, 820) may be displayed on the screen. For example, when the icon (814) is selected, information related to the user's profile may be displayed. For another example, when the icon (816) is selected, information related to a shop provided by the instant messaging application may be displayed. For yet another example, when the icon (818) is selected, information on a number of user accounts related to the user account (e.g., a friend list) and information on messages previously exchanged with the number of user accounts may be displayed. For yet another example, when the icon (820) is selected, information on the usage history of the user account (e.g., a list of users previously matched with the user account, etc.) may be displayed. Also, as illustrated in the first operation (810), the text "I am searching for anyone in everywhere" (822) may be displayed, allowing the user account to specify information on a person with whom the user account desires video calling services. When the text (822) is selected (e.g., touched), an interface is provided in which the user can input desired criteria for a partner for the video calling service, such as gender and region, as shown in the second operation (830).

図9は、本開示の一実施例に係るインスタントメッセージングアプリケーション内で、ユーザーの少なくとも一部が含まれたイメージにブラー処理を適用する例示を示す図面である。第1の動作(910)は、ユーザーがビデオ通話サービスのための相手をマッチングする前に、イメージセンサを通じてユーザーの顔面および衣服を含むイメージデータが表示される動作を示す。図示されたように、ビデオ通話のための相手を探索することを開始するためのスワイプ領域(914)が表示されることができる。スワイプ領域(914)の特定ポイントがタッチされた後にスワイプが実行される場合、既に設定された条件に基づいてビデオ通話の相手が探索されることができる。 FIG. 9 is a diagram illustrating an example of applying blur processing to an image including at least a portion of a user in an instant messaging application according to one embodiment of the present disclosure. A first operation (910) illustrates an operation in which image data including a user's face and clothes is displayed through an image sensor before the user matches a partner for a video call service. As illustrated, a swipe area (914) for starting to search for a partner for a video call may be displayed. When a swipe is performed after a specific point of the swipe area (914) is touched, a partner for the video call may be searched for based on previously set conditions.

ユーザーがイメージをブラーさせるためのアイコン(912)をクリックして、ユーザーの一部を含む1つ以上のイメージにブラーアイテムを適用することができる。一実施例によると、ユーザーが第2の領域(912)を選択すると、表示されたイメージに適用されるブラー効果の程度が選択され得るインターフェース、つまり第2の動作(920)が表示されることができる。そして、ユーザーは、画面の下端に配置されたバー(bar; 922)のポイントをタッチした後にポイントをライン上で調整することにより、ブラー効果の程度を決定することができる。このようなブラーアイテムに対する情報は、ユーザーアカウントのユーザー活動情報として格納されることができ、ユーザーアカウントの性別を判定するのに利用されることができる。例えば、ブラーアイテムは、女性のみに提供されることができ、特定のユーザーアカウントがブラーアイテムを予め決定された以上の回数よりも多く使用した場合には、自分の性別を騙すための動作として解釈され、特定のユーザーアカウントの性別が偽りであると判定される可能性がより高くなることができる。 A user may click an icon (912) for blurring an image to apply the blur item to one or more images including a portion of the user. According to an embodiment, when the user selects the second region (912), an interface, i.e., a second action (920), may be displayed in which the degree of the blur effect to be applied to the displayed image may be selected. The user may then determine the degree of the blur effect by touching a point on a bar (922) located at the bottom of the screen and then adjusting the point on the line. Information on the blur item may be stored as user activity information of the user account and may be used to determine the gender of the user account. For example, the blur item may be provided only to females, and if a particular user account uses the blur item more than a predetermined number of times, it may be interpreted as an action to deceive its gender, and the gender of the particular user account may be more likely to be determined to be false.

図10は、本開示の一実施例に係るインスタントメッセージングアプリケーション内で、ユーザーの顔面が含まれたイメージに顔面効果処理およびステッカーアイテムを適用する例示を示す図面である。ユーザーは、ユーザー端末において第1の動作(1010)、第2の動作(1020)および第3の動作(1030)を通じて表示されたイメージに適用されるアイテムを選択することができる。例えば、アイテムは、顔フィルター効果アイテムおよび顔縮小アイテムなどを含む顔面効果アイテムおよびステッカーアイテムを含むことができる。選択されたアイテムは、ユーザーが他のユーザーとのビデオ通話時に使用されることができる。 FIG. 10 is a diagram showing an example of applying facial effect processing and sticker items to an image including a user's face in an instant messaging application according to one embodiment of the present disclosure. A user can select items to be applied to the displayed image through a first operation (1010), a second operation (1020), and a third operation (1030) in a user terminal. For example, the items can include facial effect items and sticker items, including a face filter effect item and a face reduction item. The selected items can be used when the user has a video call with another user.

一実施例において、第1の動作(1010)に図示されたように、ユーザーは、顔フィルターアイテムを適用するための第1のアイコン(1012)を選択することができ、第1の領域(1012)が選択されると、適用可能な顔フィルターのリスト(1014)が横方向に表示されることができる。ユーザーは、これらのリスト(1014)内でスワイプ動作を遂行することで、現在表示されていない顔フィルターを更に表示させることができる。ユーザーは、適用可能な顔フィルターのうち1つを選択して、表示されたイメージの一部(例えば、顔面)または全部に適用させることができる。このような顔フィルターは、顔に美容効果を適用することができるフィルターを含むことができる。 In one embodiment, as shown in a first action (1010), a user may select a first icon (1012) for applying a face filter item, and when a first area (1012) is selected, a list (1014) of applicable face filters may be displayed horizontally. The user may perform a swipe motion within these lists (1014) to display more face filters that are not currently displayed. The user may select one of the applicable face filters to apply to a portion (e.g., the face) or the entirety of the displayed image. Such face filters may include filters that can apply cosmetic effects to the face.

一実施例によると、第2の動作(1020)に図示されたように、ユーザーは、顔縮小アイテムを適用するための第2のアイコン(1022)を選択することができ、第2のアイコン(1022)が選択されるとき、顔縮小の程度を選択できるバー(bar; 1024)が表示されることができる。ユーザーは、バー(1024)のポイントをライン上で調節することにより、イメージに含まれた顔面の縮小程度を決定することができる。このような顔縮小の程度は、数値(例えば、図10においては8)として表示されることができる。 According to one embodiment, as shown in the second operation (1020), the user may select a second icon (1022) for applying a face reduction item, and when the second icon (1022) is selected, a bar (1024) may be displayed that allows the user to select the degree of face reduction. The user may determine the degree of reduction of the face included in the image by adjusting the points of the bar (1024) along the line. The degree of such face reduction may be displayed as a numerical value (e.g., 8 in FIG. 10).

一実施例において、第3の動作(1030)に図示されたように、ユーザーは、顔に貼ることのできるステッカーを選択するための第3のアイコン(1032)を選択することができ、第3のアイコン(1032)が選択されると、適用可能なステッカーのリスト(1034)が横方向に表示されることができる。ユーザーは、これらのリスト(1034)内でスワイプ動作を遂行することで、現在表示されていないステッカーを更に表示させることができる。表示されたステッカーのうち1つのステッカーが選択されることができ、選択されたステッカーは、他のユーザーとのビデオ通話セッションで使用されることができる。 In one embodiment, as shown in a third operation (1030), a user may select a third icon (1032) to select a sticker that can be applied to the face, and when the third icon (1032) is selected, a list of applicable stickers (1034) may be displayed horizontally. The user may perform a swipe motion within these lists (1034) to display more stickers that are not currently displayed. One of the displayed stickers may be selected, and the selected sticker may be used in a video call session with another user.

ユーザーが他のユーザーとのビデオ通話セッション中に使用する予定であったり、または使用したりした顔面効果アイテムおよびステッカーアイテムに対する情報は、ユーザー活動情報として格納されることができる。このようなユーザー活動情報は、使用されたアイテムの種類および回数に対する情報を含むことができる。ユーザー活動情報は、ユーザーの性別を検証するのに使用されることができる。男性および女性に応じて多く使用される顔面効果アイテムおよびステッカーアイテムに対する情報が収集されることができ、収集された情報は、ユーザーの性別を検証するのに使用されることができる。一実施例によると、情報処理システムは、第1のユーザーアカウントに対して、データ認識モジュール(330)から出力された性別情報および顔面効果アイテムおよびステッカーアイテムなどを含んだユーザー活動情報に基づいて第1のユーザーアカウントの性別を検証するように構成されることができる。 Information on facial effect items and sticker items that a user plans to use or has used during a video call session with another user may be stored as user activity information. Such user activity information may include information on the type and number of times of items used. The user activity information may be used to verify the gender of a user. Information on facial effect items and sticker items that are frequently used by men and women may be collected, and the collected information may be used to verify the gender of a user. According to one embodiment, the information processing system may be configured to verify the gender of a first user account based on user activity information including gender information, facial effect items, sticker items, etc. output from the data recognition module (330) for a first user account.

図11は、本開示の一実施例に係るビデオ通話セッションを開始し、ビデオ通話セッション中にビデオ通話の相手を追加してテキストチャットを行う例示を示す図面である。一実施例によると、情報処理システムは、第1のユーザーアカウントの性別を検証するためにビデオ通話の相手である第2のユーザーアカウントに対する情報を収集することができる。他の実施例において、第1のユーザーアカウントの性別を検証するために第2のユーザーアカウントとのテキストチャットの間に入力されたテキストが収集されることができる。ここで、テキストは、第1のユーザーアカウントまたは第2のユーザーアカウントのうち少なくとも1つのアカウントから入力されたテキストを含むことができる。 FIG. 11 is a diagram showing an example of starting a video call session according to one embodiment of the present disclosure, and adding a video call partner during the video call session to perform text chat. According to one embodiment, the information processing system may collect information on a second user account that is a video call partner to verify the gender of the first user account. In another embodiment, text entered during a text chat with the second user account may be collected to verify the gender of the first user account. Here, the text may include text entered from at least one of the first user account or the second user account.

第1のユーザーアカウントのユーザーは、第1の動作(1110)を通じて第1のユーザーアカウントのビデオ通話を遂行する相手を決定することができる。第1の動作(1110)に図示されたように、情報処理システムが第1のユーザーアカウントのビデオ通話の相手である第2のユーザーアカウントをマッチングすると、第2のユーザーアカウントに対するプロフィール情報(1114)が画面上に表示されることができる。例えば、プロフィール情報は、第2のユーザーアカウントの顔面イメージ、居住地域、関心事情報および第2のユーザーアカウントに対する評価情報を含むことができる。そして、第2のユーザーアカウントに対するプロフィール情報が表示されるときにskipアイコン(1112)がタッチされると、第2のユーザーアカウントとのビデオ通話は遂行されないことができる。これとは異なり、skipアイコン(1112)がタッチされないと、第2のユーザーアカウントとのビデオ通話が遂行されることができる。 A user of a first user account can determine a partner with whom to perform a video call of the first user account through a first operation (1110). As shown in the first operation (1110), when the information processing system matches a second user account that is a partner of a video call of the first user account, profile information (1114) for the second user account can be displayed on the screen. For example, the profile information can include a facial image, a residential area, interest information, and rating information for the second user account of the second user account. When the profile information for the second user account is displayed, if a skip icon (1112) is touched, a video call with the second user account can not be performed. In contrast, if the skip icon (1112) is not touched, a video call with the second user account can be performed.

第1のユーザーアカウントと第2のユーザーアカウント間のビデオ通話セッション中に、第2のユーザーアカウントは、第1のユーザーアカウントの友人として追加されることができる。一実施例によると、第1のユーザーアカウントのユーザーは、第2の動作(1120)を通じて画面に表示された友人追加のためのアイコン(1122)を選択することにより、第2のユーザーアカウントを第1のユーザーアカウントの友人として追加することができる。この場合、追加された第2のユーザーアカウントは、第1のユーザーアカウントに関連して格納されることができる。 During a video call session between a first user account and a second user account, the second user account can be added as a friend of the first user account. According to one embodiment, the user of the first user account can add the second user account as a friend of the first user account by selecting an icon (1122) for adding a friend displayed on the screen through a second operation (1120). In this case, the added second user account can be stored in association with the first user account.

第1のユーザーアカウントと第2のユーザーアカウント間のビデオ通話セッション中に、第1のユーザーアカウントのユーザーは、第2のユーザーアカウントのユーザーとテキストチャットを遂行することができる。第1のユーザーアカウントのユーザーは、第3の動作(1130)を通じて画面に表示されたテキスト入力領域(1132)を通じてテキストを入力することができ、第1のユーザーアカウントおよび/または第2のユーザーアカウントから入力されたテキストは、テキスト表示ウィンドウ(1134)に表示されることができる。このようなテキストは、第1のユーザーアカウントに関連して格納されることができる。情報処理システムは、第1のユーザーアカウントに関連したテキストを収集してテキストの内容を分析することができ、分析されたテキストの内容に基づいて第1のユーザーの性別を検証するように構成されることができる。一例として、情報処理システムは、収集されたテキストのキーワードを抽出して抽出されたキーワードに加重値を付与し、キーワードおよび加重値に基づいて第1のユーザーの性別を検証することができる。他の例として、情報処理システムは、収集されたテキストを自然言語処理(Natural Language Processing)して第1のユーザーの性別を検証するように構成されることができる。 During a video call session between the first user account and the second user account, the user of the first user account may engage in a text chat with the user of the second user account. The user of the first user account may input text through a text input area (1132) displayed on the screen through a third operation (1130), and the text input from the first user account and/or the second user account may be displayed in a text display window (1134). Such text may be stored in association with the first user account. The information processing system may be configured to collect text associated with the first user account and analyze the content of the text, and to verify the gender of the first user based on the content of the analyzed text. As an example, the information processing system may extract keywords from the collected text, assign weights to the extracted keywords, and verify the gender of the first user based on the keywords and weights. As another example, the information processing system may be configured to perform natural language processing on the collected text to verify the gender of the first user.

図12は、本開示の一実施例に係る相手とのビデオ通話セッション中に相手を評価する評価情報を送信し、相手から評価情報を受信する例示を示す図面である。第1のユーザーアカウントのユーザーは、第2のユーザーアカウントに対する評価情報を送信することができ、第2のユーザーアカウントから自分に対する評価情報を受信することができる。ここで、評価情報は、ユーザーアカウントに対して選択された評価項目を含むことができる。第1の動作(1210)は、第1のユーザーアカウントのユーザーが第2のユーザーアカウントに対する評価情報を送信するときに要求される動作を示し、第2の動作(1220)は、第1のユーザーアカウントのユーザーが第2のユーザーアカウントから第1のユーザーアカウントに対する評価情報を受信した動作を示すことができる。 FIG. 12 is a diagram showing an example of sending evaluation information to evaluate a counterpart during a video call session with the counterpart and receiving evaluation information from the counterpart according to one embodiment of the present disclosure. A user of a first user account can send evaluation information for a second user account and can receive evaluation information for himself/herself from the second user account. Here, the evaluation information can include evaluation items selected for the user account. A first operation (1210) can represent an operation required when a user of a first user account sends evaluation information for a second user account, and a second operation (1220) can represent an operation in which a user of a first user account receives evaluation information for the first user account from the second user account.

一実施例によると、第1の動作(1210)によって示された評価情報を表示するためのアイコン(1212)が選択されることができる。アイコン(1212)が選択されると、評価項目のリスト(1214)が表示されることができる。図示されたように、評価項目は、Swaggsとして表示されることができ、例えば、Swaggsは、Handsomeアイコン、Prettyアイコン、Cuteアイコン、Stylishアイコン、Lovelyアイコン、Humorousアイコンなどを含むことができるが、これに限定されない。例えば、第1のユーザーアカウントのユーザーが、第2のユーザーアカウントに対してHandsomeアイコンを選択した場合、第2のユーザーアカウントが動作されるユーザー端末の画面上にHandsomeアイコンが表示されることができ、選択されたアイコンは、第1のユーザーアカウントに関連して格納されることができる。 According to one embodiment, an icon (1212) for displaying the rating information indicated by the first operation (1210) may be selected. When the icon (1212) is selected, a list of rating items (1214) may be displayed. As shown, the rating items may be displayed as Swags, and for example, Swags may include, but are not limited to, a Handsome icon, a Pretty icon, a Cute icon, a Stylish icon, a Lovely icon, a Humorous icon, and the like. For example, if a user of a first user account selects a Handsome icon for a second user account, the Handsome icon may be displayed on the screen of a user terminal on which the second user account is operated, and the selected icon may be stored in association with the first user account.

他の実施例によると、第1のユーザーアカウントは、第2のユーザーアカウントから第1のユーザーアカウントに対する評価情報を受信することができる。第2の動作(1220)において図示されたように、Prettyアイコンが受信されることができる。受信されたPrettyアイコンは、第1のユーザーアカウントに関連して格納されることができる。 According to another embodiment, a first user account may receive rating information for the first user account from a second user account. As shown in a second operation (1220), a Pretty icon may be received. The received Pretty icon may be stored in association with the first user account.

情報処理システムは、1つ以上の第2のユーザーアカウントから第1のユーザーアカウントに対する評価情報を収集することができる。情報処理システムは、1つ以上の第2のユーザーアカウントから収集された第1のユーザーアカウントに対するSwaggsアイコンの種類および回数を第1のユーザーアカウントの評価情報として格納することができる。また、情報処理システムは、複数のユーザーが使用したSwaggsアイコンを分析して、Swaggsアイコンの項目および回数を使用したユーザーの性別を判定するように構成されることができる。例えば、Handsomeアイコン、Stylishアイコンおよび/またはHumorousアイコンが比較的多く与えられた場合、このようなアイコンに対応する性別は男性であると判定される可能性が高い。さらに他の例として、Prettyアイコン、Cuteアイコンおよび/またはLovelyアイコンが比較的多く与えられた場合、このようなアイコンに対応する性別は女性であると判定される可能性が高い。これにより、情報処理システムは、収集された第1のユーザーアカウントの評価情報(つまり、Swaggs内のアイコンの種類および回数)に基づいて第1のユーザーアカウントの性別を検証するように構成されることができる。一実施例によると、第1のユーザーアカウントの評価情報は、データ認識モジュールによって第1のユーザーアカウントに関連した性別が出力される場合において使用される加重値を調整したり、出力された性別の信頼度を調整したりするのに使用されることができる。図12においては、Swaggsが6つのアイコンを含むものとして図示されているが、これに限定されず、Swaggsは6つのアイコンよりも多くのアイコンで構成されることができる。 The information processing system may collect evaluation information for the first user account from one or more second user accounts. The information processing system may store the type and number of Swags icons for the first user account collected from one or more second user accounts as evaluation information for the first user account. The information processing system may also be configured to analyze Swags icons used by multiple users to determine the gender of the user who used the Swags icon type and number of times. For example, if a Handsome icon, a Stylish icon, and/or a Humorous icon are given relatively frequently, the gender corresponding to such icons is likely to be determined to be male. As yet another example, if a Pretty icon, a Cute icon, and/or a Lovely icon are given relatively frequently, the gender corresponding to such icons is likely to be determined to be female. Thus, the information processing system may be configured to verify the gender of the first user account based on the collected evaluation information for the first user account (i.e., the type and number of icons in Swags). According to one embodiment, the evaluation information of the first user account may be used to adjust a weighting value used when the gender associated with the first user account is output by the data recognition module, or to adjust the reliability of the output gender. In FIG. 12, Swags is illustrated as including six icons, but is not limited thereto, and Swags may be composed of more than six icons.

図13は、本開示の一実施例に係る相手とのビデオ通話セッション中に相手が出られないようにロックイン(lock-in)アイテムを使用する例示を示す図面である。一実施例によると、情報処理システムは、第1のユーザーアカウントの性別を検証するためにビデオ通話セッション中に使用されたロックインアイテムを収集することができる。ここで、収集されたロックインアイテムは、ロックインアイテムの項目および回数を含むことができる。例えば、第1のユーザーアカウントがビデオ通話の相手である1つ以上の第2のユーザーアカウントに対して使用したロックインアイテムに関する情報が、第1のユーザーアカウントのユーザー活動情報として収集されることができる。他の例として、1つ以上の第2のユーザーアカウントが第1のユーザーアカウントに対して使用したロックインアイテムに関する情報が、第1のユーザーアカウントに関連して格納されることができる。 13 is a diagram showing an example of using a lock-in item to prevent a party from leaving a video call session with a party according to an embodiment of the present disclosure. According to an embodiment, the information processing system may collect lock-in items used during a video call session to verify the gender of a first user account. Here, the collected lock-in items may include the type and number of times of the lock-in items. For example, information about lock-in items used by a first user account with respect to one or more second user accounts with which the first user account is in a video call may be collected as user activity information of the first user account. As another example, information about lock-in items used by one or more second user accounts with respect to the first user account may be stored in association with the first user account.

一実施例において、第1の動作(1310)に図示されたように、第1のユーザーアカウントは、第2のユーザーアカウントとのビデオ通話セッション中に選択可能なロックインアイテムのリスト(1312)の提供を受けることができる。ここで、ロックインアイテムのリスト(1312)は、一定期間の間に相手がビデオ通話のセッションから出られないようにする機能を提供する複数のロックインアイテムを含むことができる。例えば、図示されたように、ロックインアイテムのリスト(1312)は、10秒ロックインアイテム、20秒ロックインアイテムおよび30秒ロックインアイテムを含むことができる。このようなロックインアイテムは、第1のユーザーアカウントがインスタントメッセージングアプリケーションで使用可能なコインで購入されることができる。このように使用されたロックインアイテムは、第1のユーザーアカウントのユーザー活動情報として格納されることができ、第1のユーザーアカウントの性別を検証するのに使用されることができる。情報処理システムは、複数のユーザーが使用した複数のロックインアイテムに対する情報を分析して、ロックインアイテムの種類および回数を使用したユーザーの性別を判定するように構成されることができる。 In one embodiment, as illustrated in the first operation (1310), the first user account may be provided with a list (1312) of selectable lock-in items during a video call session with the second user account. Here, the list (1312) of lock-in items may include a plurality of lock-in items that provide a function of preventing the other party from exiting the video call session for a certain period of time. For example, as illustrated, the list (1312) of lock-in items may include a 10-second lock-in item, a 20-second lock-in item, and a 30-second lock-in item. Such lock-in items may be purchased with coins that the first user account may use in an instant messaging application. The lock-in items used in this manner may be stored as user activity information of the first user account and may be used to verify the gender of the first user account. The information processing system may be configured to analyze information on a plurality of lock-in items used by a plurality of users to determine the gender of the user who used the type and number of lock-in items.

一実施例によると、第2の動作(1320)に図示されたように、第1のユーザーアカウントは、第2のユーザーアカウントのビデオ通話セッション中に第2のユーザーアカウントからロックインアイテムを受信し、画面上に表示することができる。例えば、受信されたアイテムは、10秒ロックインアイテム(1322)であることができ、受信された10秒ロックインアイテム(1322)は、第1のユーザーアカウントの画面に表示されることができる。この場合、第1のユーザーアカウントは、第2のユーザーアカウントのビデオ通話セッションを出ることができない。情報処理システムは、第1のユーザーアカウントが複数のビデオ通話の相手から受信したロックインアイテムを収集し、収集されたロックインアイテムを第1のユーザーアカウントに関連して格納することができる。収集されたロックインアイテムは、第1のユーザーアカウントに関連した性別を検証するのに使用されることができる。 According to one embodiment, as illustrated in the second operation (1320), the first user account can receive a lock-in item from the second user account during the video call session of the second user account and display it on the screen. For example, the received item can be a 10-second lock-in item (1322), and the received 10-second lock-in item (1322) can be displayed on the screen of the first user account. In this case, the first user account cannot leave the video call session of the second user account. The information processing system can collect the lock-in items received by the first user account from multiple video call parties and store the collected lock-in items in association with the first user account. The collected lock-in items can be used to verify a gender associated with the first user account.

図14は、本開示の一実施例に係る相手とのビデオ通話中にユーザー端末のシェイクアイテムを使用する例示を示す図面である。ここで、シェイクアイテムは、ビデオ通話セッション中に相手が好意を持っている場合に使用されることができる。例えば、第1のユーザーアカウントと第2のユーザーアカウント間のビデオ通話セッション中に、第1のユーザーアカウントが第2のユーザーアカウントに対してシェイクアイテムを使用した場合、第1の動作(1410)が遂行されることができる。他の例として、第1のユーザーアカウントと第2のユーザーアカウント間のビデオ通話セッション中に、第2のユーザーアカウントが第1のユーザーアカウントに対してシェイクアイテムを使用した場合、第2の動作(1420)が遂行されることができる。 FIG. 14 is a diagram showing an example of using a shake item of a user terminal during a video call with a counterpart according to an embodiment of the present disclosure. Here, the shake item can be used when the counterpart has a favorable attitude during a video call session. For example, during a video call session between a first user account and a second user account, if the first user account uses a shake item on the second user account, a first operation (1410) can be performed. As another example, during a video call session between the first user account and the second user account, if the second user account uses a shake item on the first user account, a second operation (1420) can be performed.

一実施例によると、第1のユーザーアカウントのユーザーは、第2のユーザーアカウントとのビデオ通話セッション中に、第1のユーザーアカウントが動作されるユーザー端末を振って、シェイクアイテムを使用することができる。第1の動作(1410)に図示されたように、シェイクアイテムが使用された場合、画面上に好意を表現する第1の特殊効果が表示されることができる。そして、第1のユーザーアカウントと第2のユーザーアカウント間のビデオ通話セッション中に、第2のユーザーアカウントがシェイクアイテムを使用した場合、相互好意があるのを示す第2の特殊効果が表示されることができる。第2の動作(1420)に図示されたように、第2の特殊効果は、第1の特殊効果よりも多くの量の効果を含むことができる。第1のユーザーアカウントと第2のユーザーアカウント間のビデオ通話セッション中に、第1のユーザーアカウントが第2のユーザーアカウントに対してシェイクアイテムを使用した場合、使用されたシェイクアイテムは、第1のユーザーアカウントのユーザー活動情報として格納されることができる。情報処理システムは、第1のユーザーアカウントがビデオ通話の相手だった1つ以上のユーザーアカウントに対して使用したシェイクアイテムに関する情報を、第1のユーザーアカウントのユーザー活動情報として収集することができる。第1のユーザーアカウントのユーザー活動情報は、第1のユーザーアカウントの性別を検証するのに使用されることができる。また、1つ以上の第2のユーザーアカウントが第1のユーザーアカウントに対して使用したシェイクアイテムは、第1のユーザーアカウントに関連した情報として格納されることができ、第1のユーザーアカウントの性別を検証するのに使用されることができる。 According to one embodiment, a user of a first user account may use a shake item by shaking a user terminal on which the first user account is operated during a video call session with a second user account. As illustrated in the first operation (1410), when the shake item is used, a first special effect expressing affection may be displayed on the screen. And, when the second user account uses the shake item during the video call session between the first user account and the second user account, a second special effect indicating mutual affection may be displayed. As illustrated in the second operation (1420), the second special effect may include a greater amount of effects than the first special effect. When the first user account uses a shake item for the second user account during the video call session between the first user account and the second user account, the shake item used may be stored as user activity information of the first user account. The information processing system may collect information about the shake items used by the first user account for one or more user accounts with which the first user account was a video call partner as user activity information of the first user account. User activity information for the first user account can be used to verify the gender of the first user account. Also, shake items used by one or more second user accounts with respect to the first user account can be stored as information associated with the first user account and can be used to verify the gender of the first user account.

図15は、本開示の一実施例に係る相手とのビデオ通話中に申告項目を送信する例示を示す図面である。一実施例によると、第2のユーザーアカウントは、第1のユーザーアカウントとのビデオ通話セッション中に、第1のユーザーアカウントのユーザーが不適切な行動を見せたり、第1のユーザーアカウントのプロフィール情報と異なる情報が発見されたりする場合、第1のユーザーアカウントを申告することができる。第1のユーザーアカウントを申告するとき、第2のユーザーアカウントは、第1のユーザーアカウントに対する申告項目を選択、または記載することができる。 FIG. 15 is a diagram showing an example of sending a report item during a video call with a counterpart according to one embodiment of the present disclosure. According to one embodiment, a second user account can report a first user account if the user of the first user account exhibits inappropriate behavior or information different from the profile information of the first user account is found during a video call session with the first user account. When reporting the first user account, the second user account can select or write a report item for the first user account.

図15に図示されたように、第2のユーザーアカウントは、第1のユーザーアカウントとのビデオ通話セッション中に、第1のユーザーアカウントを申告するためのアイコン(1510)を選択することができる。アイコン(1510)が選択されると、申告項目リスト(1520)が画面上に表示されることができる。例えば、申告項目リスト(1520)は、「Violence or harmful behavior」、「Sexual harassment」、「Other」項目を含むことができ、相手に対する不適切な行動や相手のプロフィール情報と異なる場合に申告され得る任意の項目を含むことができる。一実施例によると、ビデオ通話上で把握される第1のユーザーアカウントの性別が男性であり、第1のユーザーアカウントのプロフィールが女性として表示された場合、第2のユーザーアカウントのユーザーは、第1のユーザーアカウントを申告することができ、図15に図示されたように、「Other」項目を選択して、第1のユーザーアカウントの性別が実際と異なるという点を記載して申告することができる。このような申告項目は、情報処理システムに提供されることができ、第1のユーザーアカウントの性別を検証するのに使用されることができる。 As shown in FIG. 15, the second user account may select an icon (1510) for reporting the first user account during a video call session with the first user account. When the icon (1510) is selected, a list of reporting items (1520) may be displayed on the screen. For example, the list of reporting items (1520) may include items such as "Violence or Harmful Behavior", "Sexual Harassment", and "Other", and may include any items that may be reported when the behavior is inappropriate toward the other party or is different from the other party's profile information. According to an embodiment, if the gender of the first user account understood on the video call is male and the profile of the first user account is displayed as female, the user of the second user account may report the first user account, and as shown in FIG. 15, the user may select the "Other" item and report that the gender of the first user account is different from the actual gender. Such declarations can be provided to an information processing system and used to verify the gender of the first user account.

図16は、本開示の一実施例に係るユーザーアカウントに関連したメッセージおよび友人リストを照会する例示を示す図面である。ユーザーは、ユーザー端末において、第1の動作(1610)および第2の動作(1620)を通じてユーザーアカウントに関連した情報、つまり、ユーザーが他のユーザーとやり取りしたメッセージ、ユーザーアカウントに関連して登録された複数のユーザーアカウント(つまり、友人リスト)などを検索することができる。このような他のユーザーとのテキストチャットの間に入力されたテキストおよび友人リストは、情報処理システムに提供され、ユーザーアカウントの性別を検証するのに使用されることができる。 FIG. 16 is a diagram showing an example of querying messages and friend lists associated with a user account according to one embodiment of the present disclosure. A user can search for information associated with the user account, i.e., messages exchanged between the user and other users, multiple user accounts registered in association with the user account (i.e., friend lists), etc., through a first operation (1610) and a second operation (1620) on the user terminal. Such text entered during a text chat with other users and the friend list can be provided to an information processing system and used to verify the gender of the user account.

第1の動作(1610)に図示されたように、ユーザーが画面上に表示された「Message」テキスト(1612)をタッチする場合、自分のユーザーアカウントとテキストチャットをした複数のユーザーアカウントのリスト(1614)が表示されることができる。複数のユーザーアカウントのリスト(1614)のうち1つが選択される場合、テキストチャットの間に入力されたテキストが表示されることができる。ここで、テキストチャットの間に入力されたテキストは、ユーザーアカウントから入力されたテキストおよび/またはチャットボックス内の他のユーザーアカウントから入力されたテキストをすべて含むことができる。このようなテキストチャットの間に入力されたテキストは、情報処理システムに提供されて分析されることができ、分析されたテキストに基づいてユーザーアカウントの性別が検証されることができる。例えば、テキストの分析アルゴリズムまたは技法は、関連分野において既に知られた任意の分析アルゴリズムまたは技法が使用されることができ、例えば、キーワードベース分析、自然言語処理分析技法などが使用されることができる。 As shown in the first operation (1610), when a user touches the "Message" text (1612) displayed on the screen, a list (1614) of multiple user accounts that have had a text chat with the user's user account may be displayed. When one of the lists (1614) of multiple user accounts is selected, text entered during the text chat may be displayed. Here, the text entered during the text chat may include all text entered from the user account and/or text entered from other user accounts in the chat box. Such text entered during the text chat may be provided to an information processing system and analyzed, and the gender of the user account may be verified based on the analyzed text. For example, any analysis algorithm or technique already known in the related field may be used as the text analysis algorithm or technique, for example, keyword-based analysis, natural language processing analysis technique, etc. may be used.

第2の動作(1620)に図示されたように。ユーザーが画面上に表示された「Friends」テキスト(1622)をタッチする場合、自分のユーザーアカウントに関連した複数のユーザーアカウント、つまり友人リスト(1624)が画面上に表示されることができる。このような友人リスト(1624)内に含まれた複数のユーザーアカウントに対する情報(例えば、性別、年齢など)が情報処理システムに提供されることができ、友人リスト内に含まれた複数のユーザーアカウントに対する情報に基づいてユーザーアカウントの性別が検証されることができる。一実施例によると、友人リストに含まれた複数のユーザーアカウントの中で、男性の割合が予め決定された割合よりも高い場合、ユーザーアカウントの性別は男性より女性である可能性が高い。この場合、ユーザーアカウントに関連した他の情報と総合してユーザーアカウントの性別を判断するアルゴリズムを遂行する場合において、情報処理システムは、ユーザーアカウントの性別が女性であると判定する場合において、より高い加重値および/または信頼度を付与する任意の動作を実行することができる。 As shown in the second operation (1620), when the user touches the "Friends" text (1622) displayed on the screen, a plurality of user accounts associated with the user account, i.e., a friends list (1624), may be displayed on the screen. Information (e.g., gender, age, etc.) for the plurality of user accounts included in the friends list (1624) may be provided to the information processing system, and the gender of the user account may be verified based on the information for the plurality of user accounts included in the friends list. According to one embodiment, if the proportion of males among the plurality of user accounts included in the friends list is higher than a predetermined proportion, the gender of the user account is more likely to be female than male. In this case, when performing an algorithm for determining the gender of the user account in combination with other information related to the user account, the information processing system may perform any operation of assigning a higher weight and/or confidence level to the user account when the gender of the user account is determined to be female.

図17は、本開示の一実施例に係るユーザーアカウントに関連したプロフィール情報を出力する例示を示す図面である。一実施例において、ユーザーアカウントの性別を検証するために、情報処理システムは、ユーザーアカウントのプロフィール情報をユーザーアカウントに関連した情報として収集することができる。ここで、ユーザーアカウントのプロフィール情報は、ユーザーアカウントの特徴を示す任意の情報を含むことができ、ユーザーアカウントから入力された情報および/または他のユーザーアカウントから入力されたユーザーアカウントに対する情報を含むことができる。例えば、ユーザーアカウントのプロフィール情報は、プロフィールイメージ、評価(Swaggs)、関心事(Interests)、言語(Language)、地域などに対する情報を含むことができる。情報処理システムは、ユーザーアカウントの性別を検証する場合においてこのようなプロフィール情報を使用することができる。 FIG. 17 is a diagram showing an example of outputting profile information related to a user account according to an embodiment of the present disclosure. In one embodiment, in order to verify the gender of a user account, the information processing system may collect the profile information of the user account as information related to the user account. Here, the profile information of the user account may include any information indicating the characteristics of the user account, and may include information input from the user account and/or information about the user account input from another user account. For example, the profile information of the user account may include information about a profile image, ratings (swaggs), interests (interests), language (language), region, etc. The information processing system may use such profile information when verifying the gender of the user account.

一実施例によると、情報処理システムは、ユーザーアカウントの評価情報としてユーザーアカウントが受信したSwaggsのアイコンに対する情報を収集することができる。図示されたように、例えば、Swaggsのリスト(1710)は、ユーザーアカウントが受信したSwaggsアイコンの種類および回数を含むことができる。これにより、情報処理システムは、ユーザーアカウントの性別を検証する場合において、プロフィール情報内に格納されたSwaggsアイコンのうちユーザーアカウントが多く受信した上位アイコンに高い加重値を付与することができる。例えば、ユーザーアカウントが、Handsomeアイコン、Stylishアイコンおよび/またはHumorousアイコンを他のアイコンよりも多く受信した場合、情報処理システムは、ユーザーアカウントに関連した他の情報と総合してユーザーアカウントの性別を判断する場合において、ユーザーアカウントの性別が男性であると判定するのにより高い加重値および/または信頼度を付与することができる任意の動作を実行することができる。これとは異なり、ユーザーアカウントが、Prettyアイコン、Cuteアイコンおよび/またはLovelyアイコンを他のアイコンよりも多く受信した場合、ユーザーアカウントの性別が女性であると判定するのにより高い加重値および/または信頼度が付与されることができる任意の動作が実行されることができる。 According to one embodiment, the information processing system may collect information on the Swags icon received by the user account as the evaluation information of the user account. As illustrated, for example, the Swags list (1710) may include the type and number of Swags icons received by the user account. Thus, when verifying the gender of the user account, the information processing system may assign a higher weight to the top icon that the user account has received more than others among the Swags icons stored in the profile information. For example, if the user account has received more Handsome icons, Stylish icons, and/or Humorous icons than other icons, the information processing system may perform any operation that can assign a higher weight and/or confidence to determining that the gender of the user account is male when determining the gender of the user account in combination with other information related to the user account. Alternatively, if a user account receives more Pretty icons, Cute icons, and/or Lovely icons than other icons, any action may be performed that can be given a higher weighting and/or confidence in determining that the user account's gender is female.

一実施例において、情報処理システムは、ユーザーアカウントの関心事情報としてユーザーアカウントが受信した関心事項目のリスト(1720)を受信することができる。図示されたように、例えば、関心事情報は、関心事項目の前にタグを併記して表示されることができる。また、情報処理システムは、関心事を示す参考キーワードのそれぞれに対応する性別を示す加重値情報を格納することができる。これにより、情報処理システムは、受信された関心事項目のリスト(1720)内に含まれた関心事項目に対する性別を示す加重値を決定して、ユーザーアカウントの性別を検証するのに使用することができる。 In one embodiment, the information processing system may receive a list of interest items (1720) received by the user account as interest information for the user account. As illustrated, for example, the interest information may be displayed with tags in front of the interest items. The information processing system may also store weight information indicating gender corresponding to each reference keyword indicating an interest. Thus, the information processing system may determine weights indicating gender for the interest items included in the received list of interest items (1720) and use them to verify the gender of the user account.

図18は、本開示の一実施例に係るユーザーアカウントとビデオ通話を行った1つ以上のユーザーアカウントを出力する例示を示す図面である。ユーザーアカウント(例えば、第1のユーザーアカウント)は、以前に自分とマッチングされた1つ以上の他のユーザーアカウント(第2のユーザーアカウント)を格納することができる。このような1つ以上の第2のユーザーアカウントは、インスタントメッセージングアプリケーション内の履歴(History)を通じて表示されることができる。例えば、図18に図示されたように、複数のユーザーアカウントのリスト(1810)が、第1のユーザーアカウントと以前にマッチングされたユーザーアカウントとして第1のユーザーアカウントの履歴に表示されることができる。 FIG. 18 is a diagram showing an example of outputting one or more user accounts that have had a video call with a user account according to one embodiment of the present disclosure. A user account (e.g., a first user account) may store one or more other user accounts (second user accounts) that have previously been matched with the user account. Such one or more second user accounts may be displayed through a history in an instant messaging application. For example, as shown in FIG. 18, a list (1810) of multiple user accounts may be displayed in the history of the first user account as user accounts that have previously been matched with the first user account.

情報処理システムは、第1のユーザーアカウントと以前にマッチングされた1つ以上の第2のユーザーアカウントを受信するように構成されることができる。情報処理システムは、受信された1つ以上の第2のユーザーアカウントに対する情報に基づいて第1のユーザーアカウントの性別を検証することができる。一実施例によると、受信された1つ以上の第2のユーザーアカウントの性別が第1のユーザーアカウントの性別を検証するのに使用されることができる。例えば、第2のユーザーアカウントの性別において、男性が女性に比べてより多い場合、第2のユーザーアカウントの性別は男性であると判定される場合においてより多くの加重値が付与されることができる。 The information processing system may be configured to receive one or more second user accounts previously matched with the first user account. The information processing system may verify the gender of the first user account based on information for the received one or more second user accounts. According to one embodiment, the gender of the received one or more second user accounts may be used to verify the gender of the first user account. For example, if there are more males than females in the gender of the second user account, a greater weight may be assigned to the gender of the second user account being determined to be male.

上述されたビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法は、コンピュータ読み取り可能な記録媒体にコンピュータ読み取り可能なコードで具現されることもできる。コンピュータ読み取り可能な記録媒体は、コンピュータシステムにより読み取り可能なデータが格納されるすべての種類の記録装置を含む。コンピュータが読み取り可能な記録媒体の例としては、ROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、光データ格納装置などがある。また、コンピュータ読み取り可能な記録媒体は、ネットワークに連結されたコンピュータシステムに分散され、分散方式でコンピュータ読み取り可能なコードが格納されて実行されることができる。そして、前記実施例を具現するための機能的な(functional)プログラム、コードおよびコードセグメントは、本発明が属する技術分野のプログラマーによって容易に推論されることができる。 The method for verifying information received through an instant messaging application providing a video call service as described above may also be embodied as computer readable code in a computer readable recording medium. The computer readable recording medium includes all kinds of recording devices in which data readable by a computer system is stored. Examples of computer readable recording media include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc. Also, the computer readable recording medium may be distributed among computer systems connected to a network, and the computer readable code may be stored and executed in a distributed manner. Functional programs, codes, and code segments for implementing the above embodiments may be easily construed by a programmer skilled in the art to which the present invention pertains.

本開示の方法、動作または技法は、多様な手段によって具現されることもできる。例えば、これらの技法は、ハードウェア、ファームウェア、ソフトウェア、またはこれらの組み合わせによって具現されることもできる。本願の開示と連携して説明された多様な例示的論理ブロック、モジュール、回路およびアルゴリズムのステップは、電子ハードウェア、コンピュータソフトウェア、または両者の組み合わせで具現され得るということを当業者は理解できるであろう。ハードウェアおよびソフトウェアのこのような相互代替を明確に説明するために、多様な例示的構成要素、ブロック、モジュール、回路およびステップがそれらの機能的観点から一般的に上述されている。そのような機能がハードウェアとして具現されるか否か、またはソフトウェアとして具現されるか否かは、特定のアプリケーションおよび全体システムに課される設計要求事項によって異なることになる。当業者は、それぞれの特定のアプリケーションのために多様な方式で説明された機能を具現することもできるが、そのような具現は本開示の範囲を逸脱するものと解釈されてはならない。 The methods, operations, or techniques of the present disclosure may be embodied by a variety of means. For example, these techniques may be embodied by hardware, firmware, software, or a combination thereof. Those skilled in the art will appreciate that the various exemplary logic blocks, modules, circuits, and algorithmic steps described in conjunction with the present disclosure may be embodied in electronic hardware, computer software, or a combination of both. To clearly illustrate such interchangeability of hardware and software, the various exemplary components, blocks, modules, circuits, and steps have been described above generally in terms of their functionality. Whether such functionality is embodied as hardware or software will depend on the particular application and design requirements imposed on the overall system. Those skilled in the art may also embody the described functionality in a variety of ways for each particular application, but such embodying should not be construed as departing from the scope of the present disclosure.

ハードウェアの具現において、技法を遂行するのに利用されるプロセッシングユニットは、1つ以上のASIC、DSP、デジタル信号プロセッシングデバイス(digital signal processing devices; DSPD)、プログラム可能な論理デバイス(programmable logic devices; PLD)、フィールドプログラム可能なゲートアレイ(field programmable gate arrays; FPGA)、プロセッサ、コントローラ、マイクロコントローラ、マイクロプロセッサ、電子デバイス、本開示で説明された機能を遂行するように設計された他の電子ユニット、コンピュータ、またはこれらの組み合わせの中から具現されることもできる。 In a hardware implementation, the processing units used to perform the techniques may be embodied as one or more ASICs, DSPs, digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays (FPGAs), processors, controllers, microcontrollers, microprocessors, electronic devices, other electronic units designed to perform the functions described in this disclosure, computers, or combinations thereof.

従って、本開示と連携して説明された多様な例示的論理ブロック、モジュール、および回路は、汎用プロセッサ、DSP、ASIC、FPGAや他のプログラム可能な論理デバイス、ディスクリートゲートやトランジスタロジック、ディスクリートハードウェアコンポーネント、または本願において説明された機能を遂行するように設計されたものの任意の組み合わせで具現されたり、実行されたりすることもできる。汎用プロセッサは、マイクロプロセッサであることもできるが、代案として、プロセッサは、任意の従来のプロセッサ、コントローラ、マイクロコントローラ、または状態マシンであることもできる。プロセッサは、また、コンピューティングデバイスの組み合わせ、例えば、DSPとマイクロプロセッサ、複数のマイクロプロセッサ、DSPコアと連携した1つ以上のマイクロプロセッサ、または任意の他の構成の組み合わせで具現されることもできる。 Thus, the various example logic blocks, modules, and circuits described in connection with this disclosure may be embodied or implemented with any combination of general purpose processors, DSPs, ASICs, FPGAs or other programmable logic devices, discrete gate or transistor logic, discrete hardware components, or any combination designed to perform the functions described herein. A general purpose processor may be a microprocessor, but alternatively, the processor may be any conventional processor, controller, microcontroller, or state machine. A processor may also be embodied with a combination of computing devices, such as a DSP and a microprocessor, multiple microprocessors, one or more microprocessors in conjunction with a DSP core, or any other configuration.

ファームウェアおよび/またはソフトウェアの具現において、技法は、ランダムアクセスメモリ(random access memory; RAM)、読み出し専用メモリ(read-only memory; ROM)、不揮発性RAM(non-volatile random access memory; NVRAM)、PROM(programmable read-only memory)、EPROM(erasable programmable read-only memory)、EEPROM(electrically erasable PROM)、フラッシュメモリ、コンパクトディスク(compact disc; CD)、磁気または光データストレージデバイスなどのようなコンピュータ読み取り可能な媒体上に格納されたコマンドで具現されることもできる。コマンドは、1つ以上のプロセッサによって実行することもでき、プロセッサが本開示において説明された機能の特定の態様を遂行するようにすることもできる。 In a firmware and/or software implementation, the techniques may also be embodied with commands stored on a computer-readable medium such as random access memory (RAM), read-only memory (ROM), non-volatile random access memory (NVRAM), programmable read-only memory (PROM), erasable programmable read-only memory (EPROM), electrically erasable PROM (EEPROM), flash memory, compact disc (CD), magnetic or optical data storage device, etc. The commands may be executed by one or more processors and may cause the processors to perform certain aspects of the functionality described in this disclosure.

ソフトウェアで具現される場合、前記の技法は、1つ以上のコマンドまたはコードとしてコンピュータ読み取り可能な媒体上に格納されたり、またはコンピュータ読み取り可能な媒体を通じて送信されたりすることもできる。コンピュータ読み取り可能な媒体は、ある場所から別の場所へのコンピュータプログラムの転送を容易にする任意の媒体を含めてコンピュータ格納媒体および通信媒体の両者を含む。格納媒体は、コンピュータによってアクセス可能な任意の利用可能な媒体であることもできる。非限定的な例として、これらのコンピュータ読み取り可能な媒体は、RAM、ROM、EEPROM、CD-ROMまたは他の光ディスクストレージ、磁気ディスクストレージまたは他の磁気ストレージデバイス、または所望のプログラムコードをコマンドまたはデータ構造の形態に移送または格納するために使用されることができ、コンピュータによってアクセス可能な任意の他の媒体を含むことができる。また、任意の接続がコンピュータ読み取り可能な媒体に適切に称される。 If embodied in software, the techniques may be stored on or transmitted through a computer-readable medium as one or more commands or codes. Computer-readable media includes both computer storage media and communication media, including any medium that facilitates transfer of a computer program from one place to another. Storage media may be any available medium accessible by a computer. By way of non-limiting example, these computer-readable media may include RAM, ROM, EEPROM, CD-ROM or other optical disk storage, magnetic disk storage or other magnetic storage devices, or any other medium that can be used to transport or store desired program code in the form of commands or data structures and that can be accessed by a computer. Also, any connection may be properly referred to as a computer-readable medium.

例えば、ソフトウェアが同軸ケーブル、光ファイバーケーブル、撚線、デジタル加入者回線(DSL)、または赤外線、無線およびマイクロ波などのワイヤレス技術を使用して、Webサイト、サーバー、または他のリモートソースから送信されると、同軸ケーブル、光ファイバーケーブル、撚線、デジタル加入者回線、または赤外線、無線およびマイクロ波などのワイヤレス技術は、媒体の定義内に含まれる。本願において使用されるディスク(disk)とディスク(disc)は、CD、レーザーディスク、光ディスク、DVD(digital versatile disc)、フロッピーディスクおよびブルーレイディスクを含み、ここでディスク(disks)は、通常、磁気的にデータを再生し、一方ディスク(discs)は、レーザーを利用して光学的にデータを再生する。前記の組み合わせもコンピュータ読み取り可能な媒体の範囲内に含まれるべきである。 For example, if the software is transmitted from a website, server, or other remote source using coaxial cable, fiber optic cable, twisted wire, digital subscriber line (DSL), or wireless technologies such as infrared, radio and microwave, the coaxial cable, fiber optic cable, twisted wire, digital subscriber line, or wireless technologies such as infrared, radio and microwave are included within the definition of media. As used herein, disk and disc include CDs, laser discs, optical discs, digital versatile discs (DVDs), floppy disks, and Blu-ray discs, where disks typically reproduce data magnetically, while discs reproduce data optically using lasers. Combinations of the above should also be included within the scope of computer-readable media.

ソフトウェアモジュールは、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、移動式ディスク、CD-ROM、または公知された任意の他の形態の格納媒体内に常駐することもできる。例示的な格納媒体は、プロセッサが格納媒体から情報を読み出したり、格納媒体に情報を記録したりすることができるように、プロセッサに連結されることができる。代案として、格納媒体は、プロセッサに統合されることもできる。プロセッサと格納媒体は、ASIC内に存在することもできる。ASICは、ユーザー端末内に存在することもできる。代案として、プロセッサと格納媒体は、ユーザー端末において個別のコンポーネントとして存在することもできる。 A software module may reside in RAM memory, flash memory, ROM memory, EPROM memory, EEPROM memory, registers, a hard disk, a removable disk, a CD-ROM, or any other form of storage medium known in the art. An exemplary storage medium may be coupled to the processor such that the processor can read information from, and record information on, the storage medium. Alternatively, the storage medium may be integrated into the processor. The processor and the storage medium may reside in an ASIC. The ASIC may reside in a user terminal. Alternatively, the processor and the storage medium may reside as discrete components in a user terminal.

以上で説明された実施例が1つ以上のスタンドアロンコンピュータシステムで現在開示された主題の態様を活用するものとして記述されたが、本開示はこれに限定されず、ネットワークや分散コンピューティング環境のような任意のコンピューティング環境と連携して具現されることもできる。さらに、本開示における主題の様相は、複数のプロセッシングチップやデバイスで具現されることもでき、ストレージは、複数のデバイスにわたって同様に影響を受けることもできる。これらのデバイスは、PC、ネットワークサーバーおよびハンドヘルドデバイスを含むこともできる。 Although the embodiments described above have been described as utilizing aspects of the presently disclosed subject matter on one or more stand-alone computer systems, the present disclosure is not limited thereto and may be implemented in conjunction with any computing environment, such as a network or distributed computing environment. Additionally, aspects of the subject matter in the present disclosure may be implemented on multiple processing chips or devices, and storage may be affected across multiple devices as well. These devices may include PCs, network servers, and handheld devices.

本明細書において、本開示は一部実施例に関連して説明されたが、本開示の発明の属する技術分野の通常の技術者が理解できる本開示の範囲を逸脱しない範囲で多様な変形および変更が行われることができる。また、そのような変形および変更は、本明細書に添付された特許請求の範囲内に属するものとして考えられなければならない。 In this specification, the present disclosure has been described with reference to some examples, but various modifications and changes can be made without departing from the scope of the present disclosure that would be understandable to a person of ordinary skill in the art to which the present disclosure pertains. Furthermore, such modifications and changes must be considered to fall within the scope of the claims appended hereto.

112、114、116:ユーザー端末
120:ネットワーク
130:情報処理システム
212:入出力デバイス
214、232:入出力インターフェース
216、234:メモリ
218、236:プロセッサ
220、238:通信モジュール
310:データ収集モジュール
320:データ学習モジュール
330:データ認識モジュール
340:性別検証モジュール
112, 114, 116: User terminal 120: Network 130: Information processing system 212: Input/output device 214, 232: Input/output interface 216, 234: Memory 218, 236: Processor 220, 238: Communication module 310: Data collection module 320: Data learning module 330: Data recognition module 340: Gender verification module

Claims (19)

ユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法において、
第1のユーザーアカウントにより指定されるユーザーの性別を受信するステップと、
前記アプリケーションが動作される間に、イメージセンサを通じて撮像された顔が含まれたイメージを受信するステップと、
前記受信されたイメージを人工ニューラルネットワークモデルに入力し、前記受信されたイメージ内に含まれた顔のユーザーの性別を出力するステップと、
前記出力された性別に基づいて前記受信された性別を検証するステップとを含む、情報を検証する方法において、第2のユーザーアカウントから前記第1のユーザーアカウントに対する評価情報を受信するステップをさらに含み、
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記受信された評価情報および前記出力された性別に基づいて前記受信された性別を検証するステップを含む、情報を検証する方法。
1. A method for verifying information received via an instant messaging application operating on a user terminal and providing a video calling service, comprising:
receiving a gender of a user specified by a first user account;
receiving an image including a face captured through an image sensor while the application is running;
inputting the received image into an artificial neural network model and outputting a gender of a user of a face contained within the received image;
and verifying the received gender based on the output gender, further comprising receiving evaluation information for the first user account from a second user account;
A method of verifying information, wherein verifying the received gender based on the output gender includes verifying the received gender based on the received evaluation information and the output gender.
前記人工ニューラルネットワークモデルは、複数の学習イメージを示すデータおよび前記複数の学習イメージ内の人物に対する性別を示すデータに基づいて機械学習を遂行して生成される、請求項1に記載の情報を検証する方法。 The method of verifying information according to claim 1, wherein the artificial neural network model is generated by performing machine learning based on data representing a plurality of training images and data representing the gender of people in the plurality of training images. 前記受信されたイメージは、衣服を含み、
前記受信されたイメージ内に含まれた顔のユーザーの性別を出力するステップは、
前記受信されたイメージからイメージフィーチャー(image feature)を抽出するステップと、
前記抽出されたイメージフィーチャーを前記人工ニューラルネットワークモデルに入力して前記性別を出力するステップとを含む、請求項1または2に記載の情報を検証する方法。
the received image includes clothing;
The step of outputting the gender of the user of the face contained in the received image includes:
extracting image features from the received image;
and inputting the extracted image features into the artificial neural network model to output the gender.
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記出力された性別が前記受信された性別と異なる場合、前記受信されたイメージを別途のモニタリングシステムに提供するステップを含む、請求項1~3のいずれか1項に記載の情報を検証する方法。 The method for verifying information according to any one of claims 1 to 3, wherein the step of verifying the received gender based on the output gender includes a step of providing the received image to a separate monitoring system if the output gender is different from the received gender. 前記出力された性別に基づいて前記受信された性別を検証するステップは、前記出力された性別が前記受信された性別と同一であり、前記出力された性別の信頼度が予め決定された信頼度以下である場合、前記受信されたイメージを前記別途のモニタリングシステムに提供するステップを含む、請求項4に記載の情報を検証する方法。 The method of claim 4, wherein the step of verifying the received gender based on the output gender includes the step of providing the received image to the separate monitoring system if the output gender is the same as the received gender and the reliability of the output gender is equal to or less than a predetermined reliability. 前記別途のモニタリングシステムにおいて前記受信された性別が前記第1のユーザーアカウントにより指定されるユーザーの性別と異なると判定された場合、ペナルティが前記第1のユーザーアカウントに対して付与される、請求項5に記載の情報を検証する方法。 6. The method of claim 5, wherein if the separate monitoring system determines that the received gender is different from the user gender specified by the first user account, a penalty is imposed on the first user account. ユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法において、
第1のユーザーアカウントにより指定されるユーザーの性別を受信するステップと、
前記アプリケーションが動作される間に、イメージセンサを通じて撮像された顔が含まれたイメージを受信するステップと、
前記受信されたイメージを人工ニューラルネットワークモデルに入力し、前記受信されたイメージ内に含まれた顔のユーザーの性別を出力するステップと、
前記出力された性別に基づいて前記受信された性別を検証するステップとを含む、情報を検証する方法において、前記第1のユーザーアカウントに関連した関心事情報を受信するステップをさらに含み、
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記関心事情報および前記出力された性別に基づいて前記受信された性別を検証するステップを含む、情報を検証する方法。
1. A method for verifying information received via an instant messaging application operating on a user terminal and providing a video calling service, comprising:
receiving a gender of a user specified by a first user account;
receiving an image including a face captured through an image sensor while the application is running;
inputting the received image into an artificial neural network model and outputting a gender of a user of a face contained within the received image;
and verifying the received gender based on the output gender, further comprising receiving interest information associated with the first user account;
A method of verifying information , wherein verifying the received gender based on the output gender comprises verifying the received gender based on the subject of interest information and the output gender.
ユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法において、
第1のユーザーアカウントにより指定されるユーザーの性別を受信するステップと、
前記アプリケーションが動作される間に、イメージセンサを通じて撮像された顔が含まれたイメージを受信するステップと、
前記受信されたイメージを人工ニューラルネットワークモデルに入力し、前記受信されたイメージ内に含まれた顔のユーザーの性別を出力するステップと、
前記出力された性別に基づいて前記受信された性別を検証するステップとを含む、情報を検証する方法において、前記第1のユーザーアカウントが提供した、1つ以上の第2のユーザーアカウントに対する評価情報を受信するステップをさらに含み、
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記受信された第1のユーザーアカウントが提供した、1つ以上の第2のユーザーアカウントに対する評価情報および前記出力された性別に基づいて前記受信された性別を検証するステップを含む、情報を検証する方法。
1. A method for verifying information received via an instant messaging application operating on a user terminal and providing a video calling service, comprising:
receiving a gender of a user specified by a first user account;
receiving an image including a face captured through an image sensor while the application is running;
inputting the received image into an artificial neural network model and outputting a gender of a user of a face contained within the received image;
and verifying the received gender based on the output gender, further comprising receiving evaluation information provided by the first user account for one or more second user accounts;
A method for verifying information, wherein the step of verifying the received gender based on the output gender includes a step of verifying the received gender based on reputation information provided by the received first user account for one or more second user accounts and the output gender.
ユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法において、
第1のユーザーアカウントにより指定されるユーザーの性別を受信するステップと、
前記アプリケーションが動作される間に、イメージセンサを通じて撮像された顔が含まれたイメージを受信するステップと、
前記受信されたイメージを人工ニューラルネットワークモデルに入力し、前記受信されたイメージ内に含まれた顔のユーザーの性別を出力するステップと、
前記出力された性別に基づいて前記受信された性別を検証するステップとを含む、情報を検証する方法において、前記第1のユーザーアカウントと以前にマッチングされた相手である1つ以上の第2のユーザーアカウントを受信するステップをさらに含み、
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記受信された1つ以上の第2のユーザーアカウントに対する情報および前記出力された性別に基づいて前記受信された性別を検証するステップを含む、情報を検証する方法。
1. A method for verifying information received via an instant messaging application operating on a user terminal and providing a video calling service, comprising:
receiving a gender of a user specified by a first user account;
receiving an image including a face captured through an image sensor while the application is running;
inputting the received image into an artificial neural network model and outputting a gender of a user of a face contained within the received image;
and verifying the received gender based on the output gender. The method further comprising receiving one or more second user accounts that have been previously matched with the first user account;
A method for verifying information, wherein verifying the received gender based on the output gender includes verifying the received gender based on the received information for one or more second user accounts and the output gender.
ユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法において、
第1のユーザーアカウントにより指定されるユーザーの性別を受信するステップと、
前記アプリケーションが動作される間に、イメージセンサを通じて撮像された顔が含まれたイメージを受信するステップと、
前記受信されたイメージを人工ニューラルネットワークモデルに入力し、前記受信されたイメージ内に含まれた顔のユーザーの性別を出力するステップと、
前記出力された性別に基づいて前記受信された性別を検証するステップとを含む、情報を検証する方法において、前記第1のユーザーアカウントに対する申告情報を受信するステップをさらに含み、
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記受信された申告情報および前記出力された性別に基づいて前記受信された性別を検証するステップを含む、情報を検証する方法。
1. A method for verifying information received via an instant messaging application operating on a user terminal and providing a video calling service, comprising:
receiving a gender of a user specified by a first user account;
receiving an image including a face captured through an image sensor while the application is running;
inputting the received image into an artificial neural network model and outputting a gender of a user of a face contained within the received image;
and verifying the received gender based on the output gender .
A method for verifying information, wherein the step of verifying the received gender based on the output gender includes the step of verifying the received gender based on the received declaration information and the output gender.
ユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法において、
第1のユーザーアカウントにより指定されるユーザーの性別を受信するステップと、
前記アプリケーションが動作される間に、イメージセンサを通じて撮像された顔が含まれたイメージを受信するステップと、
前記受信されたイメージを人工ニューラルネットワークモデルに入力し、前記受信されたイメージ内に含まれた顔のユーザーの性別を出力するステップと、
前記出力された性別に基づいて前記受信された性別を検証するステップとを含む、情報を検証する方法において、前記アプリケーション内で前記第1のユーザーアカウントに関連した複数のユーザーアカウントに対する情報を受信するステップをさらに含み、
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記第1のユーザーアカウントに関連した複数のユーザーアカウントに対する情報および前記出力された性別に基づいて前記受信された性別を検証するステップを含む、情報を検証する方法。
1. A method for verifying information received via an instant messaging application operating on a user terminal and providing a video calling service, comprising:
receiving a gender of a user specified by a first user account;
receiving an image including a face captured through an image sensor while the application is running;
inputting the received image into an artificial neural network model and outputting a gender of a user of a face contained within the received image;
and verifying the received gender based on the output gender, further comprising receiving information for a plurality of user accounts associated with the first user account within the application;
A method of verifying information, wherein verifying the received gender based on the output gender includes verifying the received gender based on information and the output gender for a plurality of user accounts associated with the first user account.
前記第1のユーザーアカウントに対するユーザー活動情報を収集するステップをさらに含み、
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記収集されたユーザー活動情報および前記出力された性別に基づいて前記受信された性別を検証するステップを含む、請求項1~3のいずれか1項に記載の情報を検証する方法。
collecting user activity information for the first user account;
The method of verifying information described in any one of claims 1 to 3, wherein the step of verifying the received gender based on the output gender includes the step of verifying the received gender based on the collected user activity information and the output gender.
前記第1のユーザーアカウントに対するユーザー活動情報は、前記第1のユーザーアカウントが第2のユーザーアカウントとのビデオ通話をする間に利用したブラー(blur)アイテム(item)、顔効果アイテム、ロックイン(lock-in)アイテム、シェイク(shake)アイテムまたはステッカーアイテムのうち少なくとも1つに関するアイテムに対する情報を含む、請求項12に記載の情報を検証する方法。 The method of claim 12, wherein the user activity information for the first user account includes information on at least one of a blur item, a face effect item, a lock-in item, a shake item, or a sticker item used by the first user account while making a video call with a second user account. 前記第1のユーザーアカウントにより指定されるユーザーの性別を受信するステップは、前記第1のユーザーアカウントが前記アプリケーションに加入される間に入力された性別または前記第1のユーザーアカウントに関連したアカウントに対する情報から抽出された性別のうち少なくとも1つの性別を受信するステップを含む、請求項1~13のいずれか1項に記載の情報を検証する方法。 The method of verifying information of any one of claims 1 to 13, wherein the step of receiving the user's gender specified by the first user account includes the step of receiving at least one of a gender entered while the first user account was registered with the application or a gender extracted from information for an account associated with the first user account. 前記顔が含まれたイメージを受信するステップは、前記第1のユーザーアカウントが前記アプリケーションに加入された後に動作される前記イメージセンサを通じて撮像される映像データに前記顔が探知された場合、前記探知された顔が含まれたイメージを受信するステップを含む、請求項1~14のいずれか1項に記載の情報を検証する方法。 The method for verifying information described in any one of claims 1 to 14, wherein the step of receiving an image including the face includes a step of receiving an image including the detected face when the face is detected in video data captured through the image sensor operated after the first user account is registered to the application. 前記第1のユーザーアカウントと1つ以上の第2のユーザーアカウント間のテキストチャットの間に入力されたテキストを受信するステップをさらに含み、
前記出力された性別に基づいて前記受信された性別を検証するステップは、前記受信されたテキストおよび前記出力された性別に基づいて前記受信された性別を検証するステップを含む、請求項1~3のいずれか1項に記載の情報を検証する方法。
receiving text entered during a text chat between the first user account and one or more second user accounts;
4. The method of verifying information according to any one of claims 1 to 3, wherein the step of verifying the received gender based on the output gender comprises the step of verifying the received gender based on the received text and the output gender.
請求項1~16のいずれか1項によるユーザー端末で動作してビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証する方法をコンピュータで実行するためのコンピュータプログラム。 A computer program for executing on a computer the method for verifying information received via an instant messaging application running on a user terminal and providing a video calling service according to any one of claims 1 to 16 . ビデオ通話サービスを提供するインスタントメッセージングアプリケーションを介して受信された情報を検証するシステムにおいて、
ユーザー端末から第1のユーザーアカウントにより指定されるユーザーの性別を受信し、前記アプリケーションが動作される間にイメージセンサを通じて撮像された顔が含まれたイメージを受信するように構成された通信モジュールと、
前記受信されたイメージを人工ニューラルネットワークモデルに入力して前記受信されたイメージ内に含まれた顔のユーザーの性別を出力し、前記出力された性別に基づいて前記受信された性別を検証するように構成されたプロセッサとを含み、
前記通信モジュールは、第2のユーザーアカウントから前記第1のユーザーアカウントに対する評価情報を受信するようにさらに構成されており、
前記プロセッサは、前記出力された性別に基づいて前記受信された性別を検証する場合に、前記受信された評価情報および前記出力された性別に基づいて前記受信された性別を検証するように構成されている、システム。
1. A system for verifying information received via an instant messaging application that provides a video calling service, comprising:
a communication module configured to receive, from the user terminal, a user's gender specified by a first user account, and to receive an image including a face captured through an image sensor while the application is being operated;
a processor configured to input the received image into an artificial neural network model to output a gender of a user of a face contained within the received image, and to verify the received gender based on the output gender ;
The communication module is further configured to receive rating information for the first user account from a second user account;
The system, wherein the processor is configured to, when validating the received gender based on the output gender, verify the received gender based on the received assessment information and the output gender .
前記通信モジュールは、第2のユーザーアカウントから前記第1のユーザーアカウントに対する評価情報を受信するようにさらに構成され、
前記プロセッサは、前記受信された評価情報および前記出力された性別に基づいて前記受信された性別を検証するようにさらに構成された、請求項18に記載のシステム。
The communication module is further configured to receive rating information for the first user account from a second user account;
20. The system of claim 18 , wherein the processor is further configured to verify the received gender based on the received assessment information and the output gender.
JP2020180497A 2019-10-29 2020-10-28 Information verification method and system Active JP7640185B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020190135858A KR102695602B1 (en) 2019-10-29 2019-10-29 Method and system for verifying information received through an instant messaging application for providing a video call service
KR10-2019-0135858 2019-10-29

Publications (2)

Publication Number Publication Date
JP2021072119A JP2021072119A (en) 2021-05-06
JP7640185B2 true JP7640185B2 (en) 2025-03-05

Family

ID=75713319

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020180497A Active JP7640185B2 (en) 2019-10-29 2020-10-28 Information verification method and system

Country Status (2)

Country Link
JP (1) JP7640185B2 (en)
KR (1) KR102695602B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230046049A (en) 2021-09-29 2023-04-05 삼성전자주식회사 The electronic device and the method for providing video call
KR20240101253A (en) * 2022-12-23 2024-07-02 서강대학교산학협력단 Gender recognition apparatus using deep learning and method thereof

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016051482A (en) 2014-08-28 2016-04-11 ケビン・アラン・チューシーKevin Alan Tussy Methods of enrolling and authenticating user in authentication system, facial authentication system, and methods of authenticating user in authentication system
US20190188453A1 (en) 2017-12-15 2019-06-20 Hyperconnect, Inc. Terminal and server for providing video call service
JP2019153227A (en) 2018-03-06 2019-09-12 西日本電信電話株式会社 Information providing system, information acquisition terminal, information providing server, information providing method, and program

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101187773B1 (en) * 2011-01-28 2012-10-05 심광호 advertisement system using motion cognition.
KR102120871B1 (en) * 2017-11-08 2020-06-09 주식회사 하이퍼커넥트 Terminal and server providing a video call service
KR102034839B1 (en) * 2017-11-16 2019-10-21 주식회사 하이퍼커넥트 Terminal and server providing a video call service

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016051482A (en) 2014-08-28 2016-04-11 ケビン・アラン・チューシーKevin Alan Tussy Methods of enrolling and authenticating user in authentication system, facial authentication system, and methods of authenticating user in authentication system
US20190188453A1 (en) 2017-12-15 2019-06-20 Hyperconnect, Inc. Terminal and server for providing video call service
JP2019153227A (en) 2018-03-06 2019-09-12 西日本電信電話株式会社 Information providing system, information acquisition terminal, information providing server, information providing method, and program

Also Published As

Publication number Publication date
KR20210051065A (en) 2021-05-10
JP2021072119A (en) 2021-05-06
KR102695602B1 (en) 2024-08-14

Similar Documents

Publication Publication Date Title
US11574116B2 (en) Apparatus and method for providing summarized information using an artificial intelligence model
US12282506B2 (en) Electronic apparatus for searching related image and control method therefor
CN110892395B (en) Virtual assistant that provides enhanced communication session services
US11449682B2 (en) Adjusting chatbot conversation to user personality and mood
CN107911491B (en) Information recommendation method and device, storage medium, server and mobile terminal
US11270565B2 (en) Electronic device and control method therefor
US11195618B2 (en) Multi-level machine learning to detect a social media user's possible health issue
CN110447232B (en) Electronic device for determining user emotion and control method thereof
CN110169021B (en) Method and apparatus for filtering multiple messages
US11481811B2 (en) Electronic device and method for controlling same
CN112579909A (en) Object recommendation method and device, computer equipment and medium
US11115359B2 (en) Method and apparatus for importance filtering a plurality of messages
US10474899B2 (en) Social engagement based on image resemblance
JP7640185B2 (en) Information verification method and system
CN114398501B (en) Multimedia resource grouping method, device, equipment and storage medium
EP3836069A1 (en) Electronic device and control method therefor
KR20230165694A (en) Method and system for providing community recommendation service based on user profile information
CN117093731A (en) Media resource recommendation method, interactive behavior prediction model training method and device
CN114238968A (en) Application program detection method and device, storage medium and electronic equipment
CN117258307A (en) Information recommendation method, device, electronic equipment and storage medium
CN115878898B (en) Channel page recommendation method and device, computer equipment and storage medium
KR102568875B1 (en) Server for providing service for recommending mentor and lecture and method for operation thereof
CN121121760A (en) Content processing methods, apparatus, electronic devices, and computer-readable storage media
KR20250074471A (en) Method and apparatus for providing matching service based on user experience and designated location using artificial intelligence model
CN116313067A (en) Health detection management method, device, system, electronic equipment and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231018

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240813

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250217

R150 Certificate of patent or registration of utility model

Ref document number: 7640185

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150