• فهرس المقالات Transformers

      • حرية الوصول المقاله

        1 - Hierarchical Weighted Framework for Emotional Distress Detection using Personalized Affective Cues
        Nagesh Jadhav
        Emotional distress detection has become a hot topic of research in recent years due to concerns related to mental health and complex nature distress identification. One of the challenging tasks is to use non-invasive technology to understand and detect emotional distres أکثر
        Emotional distress detection has become a hot topic of research in recent years due to concerns related to mental health and complex nature distress identification. One of the challenging tasks is to use non-invasive technology to understand and detect emotional distress in humans. Personalized affective cues provide a non-invasive approach considering visual, vocal, and verbal cues to recognize the affective state. In this paper, we are proposing a multimodal hierarchical weighted framework to recognize emotional distress. We are utilizing negative emotions to detect the unapparent behavior of the person. To capture facial cues, we have employed hybrid models consisting of a transfer learned residual network and CNN models. Extracted facial cue features are processed and fused at decision using a weighted approach. For audio cues, we employed two different models exploiting the LSTM and CNN capabilities fusing the results at the decision level. For textual cues, we used a BERT transformer to learn extracted features. We have proposed a novel decision level adaptive hierarchical weighted algorithm to fuse the results of the different modalities. The proposed algorithm has been used to detect the emotional distress of a person. Hence, we have proposed a novel algorithm for the detection of emotional distress based on visual, verbal, and vocal cues. Experiments on multiple datasets like FER2013, JAFFE, CK+, RAVDESS, TESS, ISEAR, Emotion Stimulus dataset, and Daily-Dialog dataset demonstrates the effectiveness and usability of the proposed architecture. Experiments on the enterface'05 dataset for distress detection has demonstrated significant results. تفاصيل المقالة
      • حرية الوصول المقاله

        2 - Deep Transformer-based Representation for Text Chunking
        Parsa Kavehzadeh Mohammad Mahdi  Abdollah Pour Saeedeh Momtazi
        Text chunking is one of the basic tasks in natural language processing. Most proposed models in recent years were employed on chunking and other sequence labeling tasks simultaneously and they were mostly based on Recurrent Neural Networks (RNN) and Conditional Random F أکثر
        Text chunking is one of the basic tasks in natural language processing. Most proposed models in recent years were employed on chunking and other sequence labeling tasks simultaneously and they were mostly based on Recurrent Neural Networks (RNN) and Conditional Random Field (CRF). In this article, we use state-of-the-art transformer-based models in combination with CRF, Long Short-Term Memory (LSTM)-CRF as well as a simple dense layer to study the impact of different pre-trained models on the overall performance in text chunking. To this aim, we evaluate BERT, RoBERTa, Funnel Transformer, XLM, XLM-RoBERTa, BART, and GPT2 as candidates of contextualized models. Our experiments exhibit that all transformer-based models except GPT2 achieved close and high scores on text chunking. Due to the unique unidirectional architecture of GPT2, it shows a relatively poor performance on text chunking in comparison to other bidirectional transformer-based architectures. Our experiments also revealed that adding a LSTM layer to transformer-based models does not significantly improve the results since LSTM does not add additional features to assist the model to achieve more information from the input compared to the deep contextualized models. تفاصيل المقالة
      • حرية الوصول المقاله

        3 - تخمین طول عمر ترانسفورماتورهای توزیع در حضور بارهای هارمونیکی: مطالعه موردی ترانسفورماتورهای توزیع شهرستان ایلام
        رحمت اعظمی امین مرادخانی محمدحسن پرهیزگاری داریوش باقری
        ترانسفورماتورها یکی از اجزای اصلی سیستم‌های توزیع می‌باشند که خرابی آنها خسارت‌های جبران‌ناپذیری را برای سیستم‌‌های قدرت و شرکت‌های توزیع در بر خواهد داشت. علت اکثر این خرابی‌ها افزایش تلفات ترانسفورماتورها در اثر افزایش هارمونیک‌ها به خصوص هارمونیک‌های جریان می‌باشد. ا أکثر
        ترانسفورماتورها یکی از اجزای اصلی سیستم‌های توزیع می‌باشند که خرابی آنها خسارت‌های جبران‌ناپذیری را برای سیستم‌‌های قدرت و شرکت‌های توزیع در بر خواهد داشت. علت اکثر این خرابی‌ها افزایش تلفات ترانسفورماتورها در اثر افزایش هارمونیک‌ها به خصوص هارمونیک‌های جریان می‌باشد. این تلفات باعث افزایش دمای نقاط مختلف ترانسفورماتور گردیده و موجب کاهش عمر ترانسفورماتورهای توزیع و در نتیجه آسیب‌دیدن شبکه‌های توزیع می‌گردد. به ‌همین منظور در این مقاله ضمن ارائه روابط حاکم بر تلفات ترانسفورماتورهای توزیع در حضور بارهای هارمونیکی و با توجه به داده‌های موجود برای سه ترانسفورماتور توزیع نمونه شهرستان ایلام، ارزیابی فنی و عملی حضور بارهای هارمونیکی انجام و تأثیر آنها بر روی تلفات ترانسفورماتورهای تحت بررسی ارائه گردیده است. بررسی‌های انجام‌شده در حضور این بارهای هارمونیکی، کاهش طول عمر مفید برخی ترانسفورماتورها را از 30 به 17 سال نشان می‌دهد. تفاصيل المقالة