§
    rŠtj$ ã                   ó  — d dl Z d dlZd dlmZ d dlZd dlZd dlZd dlm	Z
 d dlmZ d dlmZmZmZ d dlmZmZ d dlmZ d dlmZ d dlmZ d d	lmZ d d
lmZ d dlmZm Z m!Z! d dl"m#Z# d dl$m%Z%m&Z&m'Z'm(Z( d dl)m*Z* d dl+m,Z, d dl-m.Z. d dl/m0Z0m1Z1m2Z2m3Z3 d dl4m5Z5 d„ Z6 G d„ dej7        ¦  «        Z8 G d„ dej9        ¦  «        Z: G d„ dej;        ¦  «        Z<d„ Z7d„ Z9d„ Z;d„ Z=d„ Z>d„ Z? ej@        d d!gd!d!gd!d gd"d"gd"d#gd#d"gg¦  «        ZAg d$¢ZB ej@        d!d!gd#d#gd%d#gg¦  «        ZCg d&¢ZD ej@        d!d"gd'd(gd)d*gd"d"gd+d(gd*d*gd!d!gd d,gd"d!gg	¦  «        ZEd-gd%z  d.gd%z  z   d/gd%z  z   ZF ej@        d)d(gd"d#gd d gg¦  «        ZGg d0¢ZH ej@        g d1¢g d1¢g d2¢g d2¢g d3¢g d3¢g d4¢g d4¢g¦  «        ZI ej@        g d5¢¦  «        ZJ ej@        g d6¢g d7¢g d8¢g d9¢g d:¢g d;¢g d<¢g d=¢g¦  «        ZK ej@        g d5¢¦  «        ZL ejM        ¦   «         ZN ej@        d d!gd!d!gd!d gd"d"gd"d#gd#d"gg¦  «        ZOg d$¢ZPg d>¢ZQd½d@„ZRdA„ ZSejT         U                    dBe7e=e9e>g¦  «        ejT         U                    dCg dD¢¦  «        dE„ ¦   «         ¦   «         ZVejT         U                    dBe7e=e9e>g¦  «        dF„ ¦   «         ZWejT         U                    dCdGdHg¦  «        ejT         U                    dIdJge7dKfe9dLfg¦  «        dM„ ¦   «         ¦   «         ZXejT         U                    dBe7e=e9e>g¦  «        dN„ ¦   «         ZYejT         U                    dBe7e=e9e>e;e?g¦  «        dO„ ¦   «         ZZejT         U                    dBe7e=e9e>e;e?g¦  «        dP„ ¦   «         Z[ejT         U                    dBe7e=e9e>g¦  «        dQ„ ¦   «         Z\ejT         U                    dBe7e=e9e>g¦  «        dR„ ¦   «         Z]ejT         U                    dBe7e=e9e>g¦  «        dS„ ¦   «         Z^ejT         U                    dBe7e=e9e>g¦  «        dT„ ¦   «         Z_ejT         U                    dBe7e=e9e>g¦  «        dU„ ¦   «         Z`ejT         U                    dBe7e=e9e>g¦  «        dV„ ¦   «         ZaejT         U                    dWe7e9g¦  «        ejT         U                    dXg dY¢¦  «        dZ„ ¦   «         ¦   «         ZbejT         U                    dWe7e=e9e>g¦  «        d[„ ¦   «         ZcejT         U                    dBe7e=e9e>e;e?g¦  «        d\„ ¦   «         ZdejT         U                    dBe7e=g¦  «        d]„ ¦   «         ZeejT         U                    dBe7e=e;e?g¦  «        d^„ ¦   «         ZfejT         U                    d_e7d` ejg        da¦  «        ife=d` ejg        da¦  «        ife;db ejg        da¦  «        ife?db ejg        da¦  «        ifg¦  «        dc„ ¦   «         ZhejT         U                    dBe7e=e9e>g¦  «        dd„ ¦   «         ZiejT         U                    d_e7d`d ife=d`d ife;dbd ife?dbd ifg¦  «        de„ ¦   «         ZjejT         U                    dBe7e=g¦  «        df„ ¦   «         ZkejT         U                    dBe7e=g¦  «        dg„ ¦   «         ZlejT         U                    dBe7e=g¦  «        dh„ ¦   «         ZmejT         U                    dBe7e=g¦  «        di„ ¦   «         ZnejT         U                    dBe7e=g¦  «        dj„ ¦   «         ZoejT         U                    dBe7e=g¦  «        dk„ ¦   «         ZpejT         U                    dBe7e=g¦  «        dl„ ¦   «         ZqejT         U                    dBe7e=g¦  «        dm„ ¦   «         ZrejT         U                    dBe7e=g¦  «        dn„ ¦   «         ZsejT         U                    dBe7e=g¦  «        do„ ¦   «         ZtejT         U                    dBe7e=g¦  «        dp„ ¦   «         ZuejT        jv        ejT         U                    dBe7e=g¦  «        dq„ ¦   «         ¦   «         ZwejT         U                    dBe7e=g¦  «        dr„ ¦   «         ZxejT         U                    dBe7e=g¦  «        ds„ ¦   «         ZyejT         U                    dBe7e=g¦  «        dt„ ¦   «         ZzejT         U                    dBe7e=g¦  «        du„ ¦   «         Z{ejT         U                    dBe7e=g¦  «        dv„ ¦   «         Z|ejT         U                    dBe7e=g¦  «        dw„ ¦   «         Z}ejT         U                    dBe7e=e;e?g¦  «        dx„ ¦   «         Z~ejT         U                    dBe7e=g¦  «        dy„ ¦   «         ZejT         U                    dBe7e=g¦  «        dz„ ¦   «         Z€ejT         U                    dBe7e=g¦  «        d{„ ¦   «         Z�ejT         U                    dBe7e=g¦  «        d|„ ¦   «         Z‚ejT         U                    dBe7e=g¦  «        d}„ ¦   «         ZƒejT         U                    dBe7e=g¦  «        ejT         U                    dCg dD¢¦  «        d~„ ¦   «         ¦   «         Z„ejT         U                    dBe7e=g¦  «        d„ ¦   «         Z…ejT         U                    dBe7e=g¦  «        d€„ ¦   «         Z†ejT         U                    dBe7e=g¦  «        d�„ ¦   «         Z‡ejT         U                    dBe9e>g¦  «        d‚„ ¦   «         ZˆejT         U                    dBe9e>g¦  «        dƒ„ ¦   «         Z‰ejT         U                    dBe9e>g¦  «        d„„ ¦   «         ZŠejT         U                    dBe9e>g¦  «        d…„ ¦   «         Z‹ejT         U                    dBe9e>g¦  «        d†„ ¦   «         ZŒejT         U                    dBe9e>g¦  «        d‡„ ¦   «         Z�ejT         U                    dBe9e>g¦  «        dˆ„ ¦   «         ZŽejT         U                    dBe9e>g¦  «        d‰„ ¦   «         Z�ejT         U                    dBe9e>g¦  «        dŠ„ ¦   «         Z�ejT         U                    dBe9e>g¦  «        ejT         U                    dCg dD¢¦  «        d‹„ ¦   «         ¦   «         Z‘ejT         U                    dBe9e>g¦  «        dŒ„ ¦   «         Z’d½d�„Z“ejT         U                    dBe;e?g¦  «        dŽ„ ¦   «         Z”ejT         U                    dBe;e?g¦  «        ejT         U                    dCg dD¢¦  «        d�„ ¦   «         ¦   «         Z•ejT         U                    dBe;e?g¦  «        d�„ ¦   «         Z–ejT         U                    dBe;e?g¦  «        d‘„ ¦   «         Z—ejT         U                    dBe;e?g¦  «        ejT         U                    dCg dD¢¦  «        d’„ ¦   «         ¦   «         Z˜ejT         U                    dBe;e?g¦  «        d“„ ¦   «         Z™ejT         U                    dBe;e?g¦  «        d”„ ¦   «         ZšejT         U                    dBe;e?g¦  «        d•„ ¦   «         Z›ejT         U                    dBe;e?g¦  «        d–„ ¦   «         Zœd—„ Z�d˜„ ZžejT         U                    d™dšd›g¦  «        dœ„ ¦   «         ZŸejT         U                    d�dždŸg¦  «        d „ ¦   «         Z d¡„ Z¡d¢„ Z¢d£„ Z£ejT         U                    d¤g d¥¢¦  «        d¦„ ¦   «         Z¤d§„ Z¥d¨„ Z¦d©„ Z§dª„ Z¨d«„ Z©d¬„ Zªd­„ Z«d®„ Z¬d¯„ Z­ejT         U                    d°g d±¢¦  «        d²„ ¦   «         Z®ejT         U                    dWej7        ej9        g¦  «        d³„ ¦   «         Z¯d´„ Z°dµ„ Z±ejT         U                    dWe7e9g¦  «        d¶„ ¦   «         Z²ejT         U                    d·e7e=e9e>e;e?g¦  «        ejT         U                    d¸ej³        ej´        f¦  «        d¹„ ¦   «         ¦   «         ZµejT         U                    d·e7e=e9e>e;e?g¦  «        dº„ ¦   «         Z¶d»„ Z·d¼„ Z¸dS )¾é    N)ÚMock)Úminimize)ÚdatasetsÚlinear_modelÚmetrics)ÚcloneÚis_classifier)Ú
make_blobs)ÚConvergenceWarning)ÚNystroem)Ú	_sgd_fast)Ú_stochastic_gradient)ÚRandomizedSearchCVÚShuffleSplitÚStratifiedShuffleSplit)Úmake_pipeline)ÚLabelEncoderÚMinMaxScalerÚStandardScalerÚscale)ÚOneClassSVM)Úget_tags)Ú_align_api_if_sparse)Úassert_allcloseÚassert_almost_equalÚassert_array_almost_equalÚassert_array_equal)Ú_sparse_random_arrayc                 ó@   — d| vrd| d<   d| vrd | d<   d| vrd| d<   d S d S )NÚrandom_stateé*   ÚtolÚmax_iteré   © ©Úkwargss    úa/var/www/html/CA-Chatbot/venv/lib/python3.11/site-packages/sklearn/linear_model/tests/test_sgd.pyÚ_update_kwargsr)   %   sN   € Ø˜VÐ#Ð#Ø!#ˆˆ~Ñà�FÐÐØˆˆu‰Ø˜ÐÐØˆˆzÑÐÐð  Ðó    c                   ó<   ‡ — e Zd Zˆ fd„Zˆ fd„Zˆ fd„Zˆ fd„Zˆ xZS )Ú_SparseSGDClassifierc                 ó‚   •— t          t          j        |¦  «        ¦  «        } t          ¦   «         j        ||g|¢R i |¤ŽS ©N)r   ÚspÚ	csr_arrayÚsuperÚfit©ÚselfÚXÚyÚargsÚkwÚ	__class__s        €r(   r2   z_SparseSGDClassifier.fit0   s@   ø€ Ý ¥¤¨a¡¤Ñ1Ô1ˆØ�u‰wŒwŒ{˜1˜aÐ- $Ð-Ð-Ð-¨"Ð-Ð-Ð-r*   c                 ó‚   •— t          t          j        |¦  «        ¦  «        } t          ¦   «         j        ||g|¢R i |¤ŽS r.   )r   r/   r0   r1   Úpartial_fitr3   s        €r(   r;   z _SparseSGDClassifier.partial_fit4   sA   ø€ Ý ¥¤¨a¡¤Ñ1Ô1ˆØ"�u‰wŒwÔ" 1 aÐ5¨$Ð5Ð5Ð5°"Ð5Ð5Ð5r*   c                 óˆ   •— t          t          j        |¦  «        ¦  «        }t          ¦   «                              |¦  «        S r.   )r   r/   r0   r1   Údecision_function©r4   r5   r9   s     €r(   r=   z&_SparseSGDClassifier.decision_function8   s0   ø€ Ý ¥¤¨a¡¤Ñ1Ô1ˆÝ‰wŒw×(Ò(¨Ñ+Ô+Ð+r*   c                 óˆ   •— t          t          j        |¦  «        ¦  «        }t          ¦   «                              |¦  «        S r.   )r   r/   r0   r1   Úpredict_probar>   s     €r(   r@   z"_SparseSGDClassifier.predict_proba<   s0   ø€ Ý ¥¤¨a¡¤Ñ1Ô1ˆÝ‰wŒw×$Ò$ QÑ'Ô'Ð'r*   )Ú__name__Ú
__module__Ú__qualname__r2   r;   r=   r@   Ú__classcell__)r9   s   @r(   r,   r,   /   sƒ   ø€ € € € € ð.ð .ð .ð .ð .ð6ð 6ð 6ð 6ð 6ð,ð ,ð ,ð ,ð ,ð(ð (ð (ð (ð (ð (ð (ð (ð (r*   r,   c                   ó    — e Zd Zd„ Zd„ Zd„ ZdS )Ú_SparseSGDRegressorc                 ó|   — t          t          j        |¦  «        ¦  «        }t          j        j        | ||g|¢R i |¤ŽS r.   )r   r/   r0   r   ÚSGDRegressorr2   ©r4   r5   r6   r7   r8   s        r(   r2   z_SparseSGDRegressor.fitB   s?   € Ý ¥¤¨a¡¤Ñ1Ô1ˆÝÔ(Ô,¨T°1°aÐE¸$ÐEÐEÐEÀ"ÐEÐEÐEr*   c                 ó|   — t          t          j        |¦  «        ¦  «        }t          j        j        | ||g|¢R i |¤ŽS r.   )r   r/   r0   r   rH   r;   rI   s        r(   r;   z_SparseSGDRegressor.partial_fitF   s?   € Ý ¥¤¨a¡¤Ñ1Ô1ˆÝÔ(Ô4°T¸1¸aÐMÀ$ÐMÐMÐMÈ"ÐMÐMÐMr*   c                 óR   — t          j        j        | t          |¦  «        g|¢R i |¤ŽS r.   )r   rH   r=   r   ©r4   r5   r7   r8   s       r(   r=   z%_SparseSGDRegressor.decision_functionJ   sB   € åÔ(Ô:ØÕ& qÑ)Ô)ð
Ø,0ð
ð 
ð 
Ø46ð
ð 
ð 	
r*   N©rA   rB   rC   r2   r;   r=   r%   r*   r(   rF   rF   A   sG   € € € € € ðFð Fð FðNð Nð Nð
ð 
ð 
ð 
ð 
r*   rF   c                   ó    — e Zd Zd„ Zd„ Zd„ ZdS )Ú_SparseSGDOneClassSVMc                 óz   — t          t          j        |¦  «        ¦  «        }t          j        j        | |g|¢R i |¤ŽS r.   )r   r/   r0   r   ÚSGDOneClassSVMr2   rL   s       r(   r2   z_SparseSGDOneClassSVM.fitR   s=   € Ý ¥¤¨a¡¤Ñ1Ô1ˆÝÔ*Ô.¨t°QÐD¸ÐDÐDÐDÀÐDÐDÐDr*   c                 óz   — t          t          j        |¦  «        ¦  «        }t          j        j        | |g|¢R i |¤ŽS r.   )r   r/   r0   r   rQ   r;   rL   s       r(   r;   z!_SparseSGDOneClassSVM.partial_fitV   s=   € Ý ¥¤¨a¡¤Ñ1Ô1ˆÝÔ*Ô6°t¸QÐLÀÐLÐLÐLÈÐLÐLÐLr*   c                 óz   — t          t          j        |¦  «        ¦  «        }t          j        j        | |g|¢R i |¤ŽS r.   )r   r/   r0   r   rQ   r=   rL   s       r(   r=   z'_SparseSGDOneClassSVM.decision_functionZ   s=   € Ý ¥¤¨a¡¤Ñ1Ô1ˆÝÔ*Ô<¸TÀ1ÐRÀtÐRÐRÐRÈrÐRÐRÐRr*   NrM   r%   r*   r(   rO   rO   Q   sL   € € € € € ðEð Eð EðMð Mð MðSð Sð Sð Sð Sr*   rO   c                  óB   — t          | ¦  «         t          j        di | ¤ŽS ©Nr%   )r)   r   ÚSGDClassifierr&   s    r(   rV   rV   _   s'   € Ý�6ÑÔÐÝÔ%Ð/Ð/¨Ð/Ð/Ð/r*   c                  óB   — t          | ¦  «         t          j        di | ¤ŽS rU   )r)   r   rH   r&   s    r(   rH   rH   d   s'   € Ý�6ÑÔÐÝÔ$Ð.Ð. vÐ.Ð.Ð.r*   c                  óB   — t          | ¦  «         t          j        di | ¤ŽS rU   )r)   r   rQ   r&   s    r(   rQ   rQ   i   s'   € Ý�6ÑÔÐÝÔ&Ð0Ð0¨Ð0Ð0Ð0r*   c                  ó8   — t          | ¦  «         t          di | ¤ŽS rU   )r)   r,   r&   s    r(   ÚSparseSGDClassifierrZ   n   s$   € Ý�6ÑÔÐÝÐ)Ð) &Ð)Ð)Ð)r*   c                  ó8   — t          | ¦  «         t          di | ¤ŽS rU   )r)   rF   r&   s    r(   ÚSparseSGDRegressorr\   s   s$   € Ý�6ÑÔÐÝÐ(Ð( Ð(Ð(Ð(r*   c                  ó8   — t          | ¦  «         t          di | ¤ŽS rU   )r)   rO   r&   s    r(   ÚSparseSGDOneClassSVMr^   x   s$   € Ý�6ÑÔÐÝ Ð*Ð* 6Ð*Ð*Ð*r*   éþÿÿÿéÿÿÿÿé   é   )ra   ra   ra   rb   rb   rb   é   )ra   rb   rb   g      è¿ç      à?g      ø¿g      ø?g      è?ç      à¿ÚoneÚtwoÚthree)rf   rg   rh   )ra   ra   r   r   r   r   )r   r   ra   r   r   r   )r   r   r   r   ra   ra   )r   r   r   ra   r   r   )ra   ra   ra   ra   rb   rb   rb   rb   )ra   çÍÌÌÌÌÌì?çš™™™™™é?r   r   r   )ra   çáz®Gáê?g\�Âõ(\ï?r   r   r   )ra   ç¸…ëQ¸î?g)\�Âõ(ì?r   r   r   )ra   ç…ëQ¸í?ç®Gáz®ï?r   r   r   )r   r   r   g{®Gázì?rm   ra   )r   r   r   gHáz®Gé?rk   ra   )r   r   r   rm   çffffffî?ra   )r   r   r   gÃõ(\�Âí?ra   ra   )r   ra   ra   ç        c                 óÂ  — |€ t          j        |j        d         ¦  «        }n|}t          j        |j        d         ¦  «        }|}	d}
d}| t          t          fv rd}t          |¦  «        D ]q\  }}t          j        ||¦  «        }||	z  }|||         z
  }|d||z  z
  z  }|||z  |z   z  }|	||z   |z  z  }	||z  }||z  }||dz   z  }|
|z  }
|
|	z  }
|
|dz   z  }
Œr||
fS )Nra   rp   ç      ð?ç{®Gáz„?)ÚnpÚzerosÚshaperZ   r\   Ú	enumerateÚdot)Úklassr5   r6   ÚetaÚalphaÚweight_initÚintercept_initÚweightsÚaverage_weightsÚ	interceptÚaverage_interceptÚdecayÚiÚentryÚpÚgradients                   r(   Úasgdr‡   Ã   s7  € ØÐÝ”(˜1œ7 1œ:Ñ&Ô&ˆˆàˆå”h˜qœw qœzÑ*Ô*€OØ€IØÐØ€Eð Õ$Õ&8Ð9Ð9Ð9Øˆå˜a‘L”Lð %ð %‰ˆˆ5ÝŒF�5˜'Ñ"Ô"ˆØ	ˆY‰ˆØ�q˜”t‘8ˆØ�3˜# ™+Ñ&Ñ&ˆØ�S˜8‘^ eÑ+Ð,Ñ,ˆØ�s˜X‘~Ð&¨Ñ.Ñ.ˆ	à˜1ÑˆØ˜7Ñ"ˆØ˜1˜s™7Ñ"ˆà˜QÑÐØ˜YÑ&ÐØ˜Q ™WÑ$ÐÐàÐ-Ð-Ð-r*   c                 óP  —  | ddd|¬¦  «        }|                      ||¦  «          | ddd|¬¦  «        }|                      |||j                             ¦   «         |j                             ¦   «         ¬¦  «          | dddd|¬¦  «        }|                      ||¦  «         |j        |j        k    sJ ‚t          |j        |j        ¦  «         |                     d¬¦  «         |                      ||¦  «         |j        |j        k    sJ ‚t          |j        |j        ¦  «         d S )	Nrs   F)r{   Úeta0ÚshuffleÚlearning_rateçü©ñÒMbP?©Ú	coef_initr}   T)r{   r‰   rŠ   Ú
warm_startr‹   ©r{   )r2   Úcoef_ÚcopyÚ
intercept_Út_r   Ú
set_params)ry   r5   ÚYÚlrÚclfÚclf2Úclf3s          r(   Ú_test_warm_startr›   å   s*  € à
ˆ%�d ¨uÀBÐ
GÑ
GÔ
G€CØ‡G‚GˆAˆq�M„M€Màˆ5�u 4°ÀbÐIÑIÔI€DØ‡H‚HˆQ�˜SœYŸ^š^Ñ-Ô-¸c¼n×>QÒ>QÑ>SÔ>S€HÑTÔTÐTð ˆ5Ø˜ u¸ÈRðñ ô €Dð 	‡H‚HˆQ��N„N€NàŒ7�c”fÒÐÐÐÝ˜dœj¨#¬)Ñ4Ô4Ð4à‡O‚O˜%€OÑ Ô Ð Ø‡H‚HˆQ��N„N€NàŒ7�d”gÒÐÐÐÝ˜dœj¨$¬*Ñ5Ô5Ð5Ð5Ð5r*   ry   r—   )ÚconstantÚoptimalÚ
invscalingÚadaptivec                 ó>   — t          | t          t          |¦  «         d S r.   )r›   r5   r–   ©ry   r—   s     r(   Útest_warm_startr¢   ý   s   € õ
 �U�A�q "Ñ%Ô%Ð%Ð%Ð%r*   c                 ó|  —  | dd¬¦  «        }|                      t          t          ¦  «         t          j        t          ¦  «        d d …t          j        f         }t          j        ||f         }t          j        t          ¦  «        5  |                      t          |¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nrs   F©r{   rŠ   )
r2   r5   r–   rt   ÚarrayÚnewaxisÚc_ÚpytestÚraisesÚ
ValueError)ry   r˜   ÚY_s      r(   Útest_input_formatr¬     sÙ   € ð
 ˆ%�d EÐ
*Ñ
*Ô
*€CØ‡G‚G�A�q�M„M€MÝ	Œ•!‰Œ�Q�Q�Q�œ
�]Ô	#€Bå	Œˆr�2ˆvŒ€BÝ	Œ•zÑ	"Ô	"ð ð Ø�Š•�2‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð s   ÂB1Â1B5Â8B5Úpa1Úpa2ÚestÚlossÚsquared_hingeÚsquared_errorc                 óÄ   —  ||| ¬¦  «        }t          j        t          ¦  «        5  |                     t          t
          ¦  «         ddd¦  «         dS # 1 swxY w Y   dS )zETest that SGD raises with forbidden loss for passive-aggressive algo.)r°   r‹   N©r¨   r©   rª   r2   r5   r–   )r—   r¯   r°   s      r(   Útest_learning_rate_PA_raisesrµ     s�   € ð ˆ#�4 rÐ
*Ñ
*Ô
*€CÝ	Œ•zÑ	"Ô	"ð ð Ø�Š••1‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð ó   §!AÁAÁAc                 ó8  —  | dd¬¦  «        }t          |¦  «        }|                     d¬¦  «         |                     t          t          ¦  «          | dd¬¦  «        }|                     t          t          ¦  «         t          |j        |j        ¦  «         d S )Nrs   Úl1)r{   ÚpenaltyÚl2)r¹   )r   r•   r2   r5   r–   r   r‘   ©ry   r˜   r™   s      r(   Ú
test_cloner¼     s‡   € ð
 ˆ%�d DÐ
)Ñ
)Ô
)€CÝ
�‰*Œ*€CØ‡N‚N˜4€NÑ Ô Ð Ø‡G‚G�A�q�M„M€Màˆ5�t TÐ*Ñ*Ô*€DØ‡H‚H�Q•�N„N€Nå�s”y $¤*Ñ-Ô-Ð-Ð-Ð-r*   c                 óÔ  —  | dd¬¦  «        }|                      t          t          ¦  «         t          |d¦  «        sJ ‚t          |d¦  «        sJ ‚t          |d¦  «        sJ ‚t          |d¦  «        sJ ‚ | ¦   «         }|                      t          t          ¦  «         t          |d¦  «        rJ ‚t          |d¦  «        rJ ‚t          |d¦  «        rJ ‚t          |d¦  «        rJ ‚d S )NTrs   )Úaverager‰   Ú_average_coefÚ_average_interceptÚ_standard_interceptÚ_standard_coef)r2   r5   r–   Úhasattr©ry   r˜   s     r(   Útest_plain_has_no_average_attrrÅ   .  s  € ð ˆ%˜ 4Ð
(Ñ
(Ô
(€CØ‡G‚G�A�q�M„M€Må�3˜Ñ(Ô(Ð(Ð(Ð(Ý�3Ð,Ñ-Ô-Ð-Ð-Ð-Ý�3Ð-Ñ.Ô.Ð.Ð.Ð.Ý�3Ð(Ñ)Ô)Ð)Ð)Ð)à
ˆ%‰'Œ'€CØ‡G‚G�A�q�M„M€Må�s˜OÑ,Ô,Ð,Ð,Ð,Ý�sÐ0Ñ1Ô1Ð1Ð1Ð1Ý�sÐ1Ñ2Ô2Ð2Ð2Ð2Ý�sÐ,Ñ-Ô-Ð-Ð-Ð-Ð-Ð-r*   c                 óÞ  —  | d¬¦  «        } | ¦   «         }t          d¦  «        D ]Ä}t          |¦  «        rs|                     t          t          t          j        t          ¦  «        ¬¦  «         |                     t          t          t          j        t          ¦  «        ¬¦  «         Œ„|                     t          t          ¦  «         |                     t          t          ¦  «         ŒÅt          |j        |j        d¬¦  «         | t          t          t          t          fv rt          |j        |j        d¬¦  «         d S | t          t           fv rt#          |j        |j        ¦  «         d S d S )NiX  ©r¾   éd   ©Úclassesé   ©Údecimal)Úranger	   r;   r5   r–   rt   Úuniquer   r‘   rV   rZ   rH   r\   r   r“   rQ   r^   r   Úoffset_)ry   Úclf1r™   Ú_s       r(   Ú%test_late_onset_averaging_not_reachedrÓ   K  s?  € ð ˆ5˜ÐÑÔ€DØˆ5‰7Œ7€DÝ�3‰ZŒZð #ð #ˆÝ˜ÑÔð 	#Ø×Ò�Q¥­2¬9µQ©<¬<ÐÑ8Ô8Ð8Ø×Ò�Q¥­2¬9µQ©<¬<ÐÑ8Ô8Ð8Ð8à×Ò�Q¥Ñ"Ô"Ð"Ø×Ò�Q¥Ñ"Ô"Ð"Ð"å˜dœj¨$¬*¸bÐAÑAÔAÐAØ•Õ 3µ\ÕCUÐVÐVÐVÝ˜DœO¨T¬_ÀbÐIÑIÔIÐIÐIÐIØ	•>Õ#7Ð8Ð	8Ð	8Ý˜œ d¤lÑ3Ô3Ð3Ð3Ð3ð 
9Ð	8r*   c           	      ó0  — d}d}t          j        t          ¦  «        }d||dk    <   d||dk    <    | ddd	||dd
¬¦  «        } | d
dd	||dd
¬¦  «        }|                     t          |¦  «         |                     t          |¦  «         t          | t          ||||j                             ¦   «         |j        ¬¦  «        \  }}t          |j                             ¦   «         |                     ¦   «         d¬¦  «         t          |j        |d¬¦  «         d S )NrŒ   ç-Cëâ6?ç      ð¿ra   rr   rb   é   rœ   r²   F)r¾   r‹   r°   r‰   r{   r#   rŠ   )r|   r}   rË   rÌ   )rt   r¥   r–   r2   r5   r‡   r‘   Úravelr“   r   r   )ry   r‰   r{   ÚY_encoderÑ   r™   r   r�   s           r(   Ú!test_late_onset_averaging_reachedrÚ   h  sH  € ð €DØ€EÝŒx�‰{Œ{€HØ"€HˆX˜Š]ÑØ!€HˆX˜Š]Ñàˆ5ØØ ØØØØØðñ ô €Dð ˆ5ØØ ØØØØØðñ ô €Dð 	‡H‚H�Q�ÑÔÐØ‡H‚H�Q�ÑÔÐå)-ØÝ	ØØØØ”J×$Ò$Ñ&Ô&Ø”ð*ñ *ô *Ñ&€OÐ&õ ˜dœj×.Ò.Ñ0Ô0°/×2GÒ2GÑ2IÔ2IÐSUÐVÑVÔVÐVÝ˜œÐ):ÀBÐGÑGÔGÐGÐGÐGr*   c                 óò   — t           j        t           j        dk             }t           j        t           j        dk             }dD ]3}d} | |d|¬¦  «                             ||¦  «        }|j        |k     sJ ‚Œ4d S )Nr   ©TFéè  rŒ   )Úearly_stoppingr"   r#   )ÚirisÚdataÚtargetr2   Ún_iter_)ry   r5   r–   rÞ   r#   r˜   s         r(   Útest_early_stoppingrã   –  s‰   € õ 	Œ	•$”+ ’/Ô"€AÝŒ•D”K !’OÔ$€AØ'ð &ð &ˆØˆØˆe >°tÀhÐOÑOÔO×SÒSØˆqñ
ô 
ˆð Œ{˜XÒ%Ð%Ð%Ð%Ð%ð&ð &r*   c                 ó  —  | dddd¬¦  «        }|                      t          j        t          j        ¦  «          | dddd¬¦  «        }|                      t          j        t          j        ¦  «         |j        |j        k    sJ ‚d S )NrŸ   rs   rŒ   rÈ   )r‹   r‰   r"   r#   rœ   )r2   rß   rà   rá   râ   )ry   rÑ   r™   s      r(   Ú"test_adaptive_longer_than_constantrå   ¤  s   € ð ˆ5˜z°¸$ÈÐMÑMÔM€DØ‡H‚H�TŒY�œÑ$Ô$Ð$Øˆ5˜z°¸$ÈÐMÑMÔM€DØ‡H‚H�TŒY�œÑ$Ô$Ð$ØŒ<˜$œ,Ò&Ð&Ð&Ð&Ð&Ð&r*   c           
      ó´  — t           j        t           j        }}d}d}d}d} | dt          j                             |¦  «        |ddd ||¬¦  «        }|                     ||¦  «         |j        |k    sJ ‚ | dt          j                             |¦  «        ddd ||¬	¦  «        }t          |¦  «        rt          ||¬
¦  «        }	nt          ||¬
¦  «        }	t          |	                     ||¦  «        ¦  «        \  }
}t          j        |
¦  «        }
|                     ||
         ||
         ¦  «         |j        |k    sJ ‚t          |j        |j        ¦  «         d S )Nçš™™™™™Ù?r!   Fé
   Trœ   rs   )rÞ   r    Úvalidation_fractionr‹   r‰   r"   r#   rŠ   )rÞ   r    r‹   r‰   r"   r#   rŠ   )Ú	test_sizer    )rß   rà   rá   rt   ÚrandomÚRandomStater2   râ   r	   r   r   ÚnextÚsplitÚsortr   r‘   )ry   r5   r–   ré   ÚseedrŠ   r#   rÑ   r™   ÚcvÚ	idx_trainÚidx_vals               r(   Ú)test_validation_set_not_used_for_trainingrô   ¯  sw  € õ Œ9•d”k€q€AØÐØ€DØ€GØ€HØˆ5ØÝ”Y×*Ò*¨4Ñ0Ô0Ø/Ø ØØØØð	ñ 	ô 	€Dð 	‡H‚HˆQ��N„N€NØŒ<˜8Ò#Ð#Ð#Ð#àˆ5ØÝ”Y×*Ò*¨4Ñ0Ô0Ø ØØØØðñ ô €Dõ �TÑÔð LÝ#Ð.AÐPTÐUÑUÔUˆˆåÐ$7ÀdÐKÑKÔKˆÝ˜bŸhšh q¨!™nœnÑ-Ô-Ñ€IˆwÝ”˜	Ñ"Ô"€IØ‡H‚HˆQˆyŒ\˜1˜Yœ<Ñ(Ô(Ð(ØŒ<˜8Ò#Ð#Ð#Ð#å�t”z 4¤:Ñ.Ô.Ð.Ð.Ð.r*   c                 ó¦   ‡ ‡‡‡— t           j        t           j        cŠŠdD ]0Šˆˆˆˆ fd„dD ¦   «         }t          |t	          |¦  «        ¦  «         Œ1d S )NrÜ   c                 ó`   •— g | ]*} ‰‰|d d¬¦  «                              ‰‰¦  «        j        ‘Œ+S )rÕ   rÝ   )rÞ   Ún_iter_no_changer"   r#   )r2   râ   )Ú.0r÷   r5   r–   rÞ   ry   s     €€€€r(   ú
<listcomp>z)test_n_iter_no_change.<locals>.<listcomp>â  sZ   ø€ ð 

ð 

ð 

ð !ð ˆEØ-Ø!1ØØð	ñ ô ÷ ŠS��A‰YŒYÜð

ð 

ð 

r*   )rb   rc   rè   )rß   rà   rá   r   Úsorted)ry   Ún_iter_listr5   r–   rÞ   s   ` @@@r(   Útest_n_iter_no_changerü   Û  s†   øøøø€ õ Œ9•d”k€D€A€qà'ð =ð =ˆð

ð 

ð 

ð 

ð 

ð 

ð 

ð %/ð

ñ 

ô 

ˆõ 	˜;­¨{Ñ(;Ô(;Ñ<Ô<Ð<Ð<ð=ð =r*   c                 óÄ   —  | dd¬¦  «        }t          j        t          ¦  «        5  |                     t          t
          ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )NTrn   )rÞ   ré   )r¨   r©   rª   r2   ÚX3ÚY3rÄ   s     r(   Ú)test_not_enough_sample_for_early_stoppingr   ð  s�   € ð
 ˆ%˜t¸Ð
>Ñ
>Ô
>€CÝ	Œ•zÑ	"Ô	"ð ð Ø�Š••B‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð r¶   Ú	EstimatorÚl1_ratio)r   gffffffæ?ra   c                 óê   —  | ddd¬¦  «                              t          t          ¦  «        } | d|d¬¦  «                              t          t          ¦  «        }t          |j        |j        ¦  «         dS )z@Check that l1_ratio is not used when penalty is not 'elasticnet'r¸   Nr   )r¹   r  r    )r2   r5   r–   r   r‘   )r  r  rÑ   r™   s       r(   Útest_sgd_l1_ratio_not_usedr  ú  sj   € ð ˆ9˜T¨D¸qÐAÑAÔA×EÒEÅaÍÑKÔK€DØˆ9˜T¨HÀ1ÐEÑEÔE×IÒIÍ!ÍQÑOÔO€Då�D”J ¤
Ñ+Ô+Ð+Ð+Ð+r*   c                 óÈ   —  | dd ¬¦  «        }t          j        t          d¬¦  «        5  |                     t          t
          ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )NÚ
elasticnet)r¹   r  z1l1_ratio must be set when penalty is 'elasticnet'©Úmatchr´   )r  r˜   s     r(   Ú#test_sgd_failing_penalty_validationr	    s¬   € ð ˆ)˜L°4Ð
8Ñ
8Ô
8€CÝ	ŒÝÐMð
ñ 
ô 
ð ð ð 	�Š••1‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð s   ©!AÁAÁAc                 ó   —  | d¬¦  «        }t          j        t          d¬¦  «        5  |                     t          t
          ¦  «         ddd¦  «         n# 1 swxY w Y   t          j        d¬¦  «        5 } | d¬¦  «        }|                     t          t
          ¦  «         ddd¦  «         n# 1 swxY w Y   t          |¦  «        d	k    sJ ‚dS )
z:Check that a warning is raised when `power_t` is negative.rÖ   )Úpower_tz,Negative values for `power_t` are deprecatedr  NT)Úrecordrd   r   )	r¨   ÚwarnsÚFutureWarningr2   r5   r–   ÚwarningsÚcatch_warningsÚlen)ry   r˜   Úws      r(   Útest_power_t_limitsr    s?  € ð ˆ%˜Ð
Ñ
Ô
€CÝ	ŒÝÐKð
ñ 
ô 
ð ð ð 	�Š••1‰Œˆðð ð ñ ô ð ð ð ð ð ð øøøð ð ð ð õ 
Ô	 ¨Ð	-Ñ	-Ô	-ð °Øˆe˜CÐ Ñ Ô ˆØ�Š••1‰Œˆðð ð ñ ô ð ð ð ð ð ð øøøð ð ð ð õ ˆq‰6Œ6�QŠ;ˆ;ˆ;ˆ;ˆ;ˆ;s#   ¨!AÁAÁAÁ5-B.Â.B2Â5B2c           	      óÌ   — dD ]`} | ddd|dd¬¦  «        }|                      t          t          ¦  «         t          |                     t
          ¦  «        t          ¦  «         Œad S )N)Úhinger±   Úlog_lossÚmodified_huberrº   rs   Trè   )r¹   r{   Úfit_interceptr°   r#   rŠ   )r2   r5   r–   r   ÚpredictÚTÚtrue_result)ry   r°   r˜   s      r(   Útest_sgd_clfr  0  sv   € ð Ið 8ð 8ˆØˆeØØØØØØð
ñ 
ô 
ˆð 	�Š••1‰Œˆå˜3Ÿ;š;¥q™>œ>­;Ñ7Ô7Ð7Ð7ð8ð 8r*   c                 óæ   — t          j        t          d¬¦  «        5   | ¦   «                              t          t
          t          j        d¦  «        ¬¦  «         ddd¦  «         dS # 1 swxY w Y   dS )z1Check that the shape of `coef_init` is validated.z)Provided coef_init does not match datasetr  ©rc   ©rŽ   N)r¨   r©   rª   r2   r5   r–   rt   ru   ©ry   s    r(   Útest_provide_coefr!  B  s¤   € õ
 
Œ•zÐ)TÐ	UÑ	UÔ	Uð 4ð 4Øˆ‰Œ�Š•A•q¥B¤H¨T¡N¤NˆÑ3Ô3Ð3ð4ð 4ð 4ñ 4ô 4ð 4ð 4ð 4ð 4ð 4ð 4ð 4øøøð 4ð 4ð 4ð 4ð 4ð 4s   œ=A&Á&A*Á-A*zklass, fit_paramsr}   r  Úoffset_initc                 ó´   —  | ¦   «         }t          j        t          d¬¦  «        5   |j        t          t
          fi |¤Ž ddd¦  «         dS # 1 swxY w Y   dS )z:Check that `intercept_init` or `offset_init` is validated.zdoes not match datasetr  Nr´   )ry   Ú
fit_paramsÚsgd_estimators      r(   Útest_set_intercept_offsetr&  K  s¦   € ð �E‘G”G€MÝ	Œ•zÐ)AÐ	BÑ	BÔ	Bð .ð .ØˆÔ�!�QÐ-Ð- *Ð-Ð-Ð-ð.ð .ð .ñ .ô .ð .ð .ð .ð .ð .ð .ð .øøøð .ð .ð .ð .ð .ð .s   ¦AÁAÁAc                 óÆ   — d}t          j        t          |¬¦  «        5   | d¬¦  «                             t          t
          ¦  «         ddd¦  «         dS # 1 swxY w Y   dS )zSCheck that we raise an error for `early_stopping` used with
    `partial_fit`.
    z/early_stopping should be False with partial_fitr  T)rÞ   N)r¨   r©   rª   r;   r5   r–   )ry   Úerr_msgs     r(   Ú(test_sgd_early_stopping_with_partial_fitr)  [  s¦   € ð @€GÝ	Œ•z¨Ð	1Ñ	1Ô	1ð 5ð 5Øˆ˜TÐ"Ñ"Ô"×.Ò.­qµ!Ñ4Ô4Ð4ð5ð 5ð 5ñ 5ô 5ð 5ð 5ð 5ð 5ð 5ð 5ð 5øøøð 5ð 5ð 5ð 5ð 5ð 5s   ž+AÁAÁAc                 óH   —   | ¦   «         j         t          t          fi |¤Ž dS )zdCheck that we can pass a scaler with binary classification to
    `intercept_init` or `offset_init`.N)r2   ÚX5ÚY5)ry   r$  s     r(   Ú test_set_intercept_offset_binaryr-  g  s,   € ð €E€E�G„G„K••BÐ%Ð%˜*Ð%Ð%Ð%Ð%Ð%r*   c           
      ó  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        }|                     |¬¦  «        } | dd||d	d
d	d¬¦  «        }t          j        ||¦  «        }	t          j        |	¦  «        }	|                     ||	¦  «         t          | ||	||¦  «        \  }
}|
                     d
d¦  «        }
t          |j
        |
d¬¦  «         t          |j        |d¬¦  «         d S )Nçš™™™™™¹?ç       @é   rè   r   ©Úsizer²   rœ   Tra   F©r°   r‹   r‰   r{   r  r#   r¾   rŠ   r`   é   rÌ   )rt   rë   rì   Únormalrx   Úsignr2   r‡   Úreshaper   r‘   r   r“   )ry   rz   r{   Ú	n_samplesÚ
n_featuresÚrngr5   r  r˜   r6   r   r�   s               r(   Ú&test_average_binary_computed_correctlyr<  v  s  € ð €CØ€EØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€AØ�
Š
˜
ˆ
Ñ#Ô#€Aà
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cõ 	Œˆq�!‰Œ€AÝ
Œ�‰
Œ
€Aà‡G‚GˆAˆq�M„M€Må)-¨e°Q¸¸3ÀÑ)FÔ)FÑ&€OÐ&Ø%×-Ò-¨a°Ñ4Ô4€OÝ˜cœi¨À"ÐEÑEÔEÐEÝ˜œÐ(9À2ÐFÑFÔFÐFÐFÐFr*   c                 ób  —  | ¦   «                               t          t          ¦  «        } | ¦   «                               t          t          |j        ¬¦  «          | ¦   «                               t          t
          ¦  «        } | ¦   «                               t          t
          |j        ¬¦  «         d S )N©r}   )r2   r+  r,  r“   r5   r–   rÄ   s     r(   Útest_set_intercept_to_interceptr?  ˜  s|   € ð ˆ%‰'Œ'�+Š+•b�"Ñ
Ô
€CØ	€E�G„G‡K‚K••B s¤~€KÑ6Ô6Ð6Ø
ˆ%‰'Œ'�+Š+•a�Ñ
Ô
€CØ	€E�G„G‡K‚K••1 S¤^€KÑ4Ô4Ð4Ð4Ð4r*   c                 óÞ   —  | dd¬¦  «        }t          j        t          ¦  «        5  |                     t          t          j        d¦  «        ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nrs   r1  ©r{   r#   é	   )r¨   r©   rª   r2   ÚX2rt   ÚonesrÄ   s     r(   Útest_sgd_at_least_two_labelsrE  ¢  s¨   € ð ˆ%�d RÐ
(Ñ
(Ô
(€CÝ	Œ•zÑ	"Ô	"ð  ð  Ø�Š••B”G˜A‘J”JÑÔÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  ð  ð  s   §.A"Á"A&Á)A&c                 óø   — d}t          j        t          |¬¦  «        5   | d¬¦  «                             t          t
          t          j        t
          ¦  «        ¬¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Na`  class_weight 'balanced' is not supported for partial_fit\. In order to use 'balanced' weights, use compute_class_weight\('balanced', classes=classes, y=y\). In place of y you can use a large enough sample of the full training set target to properly estimate the class frequency distributions\. Pass the resulting weights as the class_weight parameter\.r  Úbalanced)Úclass_weightrÉ   )r¨   r©   rª   r;   r5   r–   rt   rÏ   )ry   Úregexs     r(   Ú&test_partial_fit_weight_class_balancedrJ  ª  sË   € ð	ð 
õ 
Œ•z¨Ð	/Ñ	/Ô	/ð Oð OØˆ˜:Ð&Ñ&Ô&×2Ò2µ1µaÅÄÍ1ÁÄÐ2ÑNÔNÐNðOð Oð Oñ Oô Oð Oð Oð Oð Oð Oð Oð Oøøøð Oð Oð Oð Oð Oð Os   žAA/Á/A3Á6A3c                 óH  —  | dd¬¦  «                              t          t          ¦  «        }|j        j        dk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚|                     t          ¦  «        }t          |t          ¦  «         d S )Nrs   r1  rA  ©rc   rb   r  r   ©ra   rc   ©r2   rC  ÚY2r‘   rv   r“   r=   r  ÚT2r   Útrue_result2©ry   r˜   Úpreds      r(   Útest_sgd_multiclassrT  »  s    € ð ˆ%�d RÐ
(Ñ
(Ô
(×
,Ò
,­RµÑ
4Ô
4€CØŒ9Œ?˜fÒ$Ð$Ð$Ð$ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø× Ò  1 a & Ñ*Ô*Ô0°FÒ:Ð:Ð:Ð:Ø�;Š;•r‰?Œ?€DÝ�t�\Ñ*Ô*Ð*Ð*Ð*r*   c           
      óè  — d}d} | dd||dddd¬¦  «        }t          j        t          ¦  «        }|                     t          |¦  «         t          j        |¦  «        }t          |¦  «        D ]‚\  }}t          j        |j        d	         ¦  «        }d
|||k    <   t          | t          |||¦  «        \  }	}
t          |	|j        |         d¬¦  «         t          |
|j        |         d¬¦  «         Œƒd S )NrŒ   rs   r²   rœ   Tra   Fr4  r   r`   rË   rÌ   )rt   r¥   rO  r2   rC  rÏ   rw   rD  rv   r‡   r   r‘   r   r“   )ry   rz   r{   r˜   Únp_Y2rÊ   rƒ   ÚclÚy_iÚaverage_coefr�   s              r(   Útest_sgd_multiclass_averagerZ  Æ  s  € à
€CØ€Eà
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cõ ŒH•R‰LŒL€EØ‡G‚G�B�ÑÔÐÝŒi˜ÑÔ€Gå˜7Ñ#Ô#ð Nð N‰ˆˆ2ÝŒg�e”k !”nÑ%Ô%ˆØˆˆE�RŠKÑÝ*.¨uµb¸#¸sÀEÑ*JÔ*JÑ'ˆÐ'Ý! ,°´	¸!´ÀbÐIÑIÔIÐIÝÐ-¨s¬~¸aÔ/@È"ÐMÑMÔMÐMÐMðNð Nr*   c                 ó\  —  | dd¬¦  «        }|                      t          t          t          j        d¦  «        t          j        d¦  «        ¬¦  «         |j        j        dk    sJ ‚|j        j        s
J d¦   «         ‚|                     t          ¦  «        }t          |t          ¦  «         d S )Nrs   r1  rA  rL  rc   r�   r  )r2   rC  rO  rt   ru   r‘   rv   r“   r  rP  r   rQ  rR  s      r(   Ú"test_sgd_multiclass_with_init_coefr\  â  s—   € ð ˆ%�d RÐ
(Ñ
(Ô
(€CØ‡G‚G�B•�bœh vÑ.Ô.½r¼xÈ¹{¼{€GÑKÔKÐKØŒ9Œ?˜fÒ$Ð$Ð$Ð$ØŒ>ÔÐ%Ð% Ñ%Ô%ÐØ�;Š;•r‰?Œ?€DÝ�t�\Ñ*Ô*Ð*Ð*Ð*r*   c                 óJ  —  | ddd¬¦  «                              t          t          ¦  «        }|j        j        dk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚|                     t          ¦  «        }t          |t          ¦  «         d S )	Nrs   r1  rb   )r{   r#   Ún_jobsrL  r  r   rM  rN  rR  s      r(   Útest_sgd_multiclass_njobsr_  í  s¢   € ð ˆ%�d R°Ð
2Ñ
2Ô
2×
6Ò
6µr½2Ñ
>Ô
>€CØŒ9Œ?˜fÒ$Ð$Ð$Ð$ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø× Ò  1 a & Ñ*Ô*Ô0°FÒ:Ð:Ð:Ð:Ø�;Š;•r‰?Œ?€DÝ�t�\Ñ*Ô*Ð*Ð*Ð*r*   c                 ó²  —  | ¦   «         }t          j        t          ¦  «        5  |                     t          t
          t          j        d¦  «        ¬¦  «         d d d ¦  «         n# 1 swxY w Y    | ¦   «                              t          t
          t          j        d¦  «        ¬¦  «        } | ¦   «         }t          j        t          ¦  «        5  |                     t          t
          t          j        d¦  «        ¬¦  «         d d d ¦  «         n# 1 swxY w Y    | ¦   «                              t          t
          t          j        d¦  «        ¬¦  «        }d S )N)rb   rb   r  rL  ©ra   r>  r  )r¨   r©   rª   r2   rC  rO  rt   ru   rÄ   s     r(   Útest_set_coef_multiclassrb  ø  s|  € ð
 ˆ%‰'Œ'€CÝ	Œ•zÑ	"Ô	"ð 4ð 4Ø�Š••B¥"¤(¨6Ñ"2Ô"2ˆÑ3Ô3Ð3ð4ð 4ð 4ñ 4ô 4ð 4ð 4ð 4ð 4ð 4ð 4øøøð 4ð 4ð 4ð 4ð ˆ%‰'Œ'�+Š+•b�"­¬°Ñ(8Ô(8ˆ+Ñ
9Ô
9€Cð ˆ%‰'Œ'€CÝ	Œ•zÑ	"Ô	"ð 7ð 7Ø�Š••B¥r¤x°¡~¤~ˆÑ6Ô6Ð6ð7ð 7ð 7ñ 7ô 7ð 7ð 7ð 7ð 7ð 7ð 7øøøð 7ð 7ð 7ð 7ð ˆ%‰'Œ'�+Š+•b�"­R¬X°d©^¬^ˆ+Ñ
<Ô
<€C€C€Cs#   ¤5A%Á%A)Á,A)Ã5DÄDÄDc                 óö  — t           j        j        D �]e}t          |¬¦  «        }|dv r%t          |d¦  «        sJ ‚t          |d¦  «        sJ ‚Œ<d                     |¦  «        }t          |d¦  «        rJ ‚t          |d¦  «        rJ ‚t          j        t          d¬¦  «        5 }|j         d d d ¦  «         n# 1 swxY w Y   t          |j
        j        t          ¦  «        sJ ‚|t          |j
        j        ¦  «        v sJ ‚t          j        t          d¬¦  «        5 }|j         d d d ¦  «         n# 1 swxY w Y   t          |j
        j        t          ¦  «        sJ ‚|t          |j
        j        ¦  «        v sJ ‚�Œgd S )	N)r°   ©r  r  r@   Úpredict_log_probaz5probability estimates are not available for loss={!r}z has no attribute 'predict_proba'r  z$has no attribute 'predict_log_proba')r   rV   Úloss_functionsrÃ   Úformatr¨   r©   ÚAttributeErrorr@   Ú
isinstanceÚvalueÚ	__cause__Ústrre  )ry   r°   r˜   Ú	inner_msgÚ	exec_infos        r(   Ú$test_sgd_predict_proba_method_accessro    s!  € õ Ô*Ô9ð ?ñ ?ˆÝ Ð&Ñ&Ô&ˆØÐ1Ð1Ð1Ý˜3 Ñ0Ô0Ð0Ð0Ð0Ý˜3Ð 3Ñ4Ô4Ð4Ð4Ð4Ð4àO×VÒVØñô ˆIõ ˜s OÑ4Ô4Ð4Ð4Ð4Ý˜sÐ$7Ñ8Ô8Ð8Ð8Ð8Ý”ÝÐ&Hðñ ô ð "àØÔ!Ð!ð"ð "ð "ñ "ô "ð "ð "ð "ð "ð "ð "øøøð "ð "ð "ð "õ
 ˜iœoÔ7½ÑHÔHÐHÐHÐHØ¥ I¤OÔ$=Ñ >Ô >Ð>Ð>Ð>Ð>å”ÝÐ&Lðñ ô ð &àØÔ%Ð%ð&ð &ð &ñ &ô &ð &ð &ð &ð &ð &ð &øøøð &ð &ð &ð &õ ˜iœoÔ7½ÑHÔHÐHÐHÐHØ¥ I¤OÔ$=Ñ >Ô >Ð>Ð>Ð>Ð>Ñ>ð1?ð ?s$   Â"B6Â6B:	Â=B:	ÄD.Ä.D2	Ä5D2	c                 ó4	  — t          dddd ¬¦  «                             t          t          ¦  «        }t	          |d¦  «        rJ ‚t	          |d¦  «        rJ ‚dD �]} | |dd¬¦  «        }|                     t          t          ¦  «         |                     d	d
gg¦  «        }|d         dk    sJ ‚|                     ddgg¦  «        }|d         dk     sJ ‚t          j        d¬¦  «        5  |                     d	d
gg¦  «        }|d         |d         k    sJ ‚|                     ddgg¦  «        }|d         |d         k     sJ ‚	 d d d ¦  «         n# 1 swxY w Y   �Œ | ddd¬¦  «                             t          t          ¦  «        }|                     ddgddgg¦  «        }|                     ddgddgg¦  «        }t          t          j        |d¬¦  «        t          j        |d¬¦  «        ¦  «         t          |d                              ¦   «         d¦  «         t          j        |d         dk    ¦  «        sJ ‚|                     ddgg¦  «        }|                     ddgg¦  «        }t          t          j        |d         ¦  «        t          j        |d         ¦  «        ¦  «         |                     d	d
gg¦  «        }|                     d	d
gg¦  «        }t%          t          j        |¦  «        |¦  «         |                     ddgg¦  «        }|                     ddgg¦  «        }t%          t          j        |¦  «        |¦  «          | ddd¬¦  «        }|                     t          t          ¦  «         |                     d	d
gg¦  «        }|                     d	d
gg¦  «        }| t(          k    r1t          j        |d¬¦  «        t          j        |d¬¦  «        k    sJ ‚n0t          j        |d¬¦  «        t          j        |d¬¦  «        k    sJ ‚t                               d¬¦  «        }|                     |g¦  «        }t          j        |dk     ¦  «        r2|                     |g¦  «        }t%          |d         dgd	z  ¦  «         d S d S )Nr  rs   rè   )r°   r{   r#   r"   r@   re  rd  )r°   r{   r#   rc   rb   ©r   ra   rd   r`   Úignore)Údivide)r   r   r  r/  çš™™™™™¹¿ç333333Ó?çš™™™™™É?ra   )Úaxisr   r  gUUUUUUÕ?)rV   r2   r5   r–   rÃ   r@   rt   Úerrstatere  rC  rO  r=   r   Úargmaxr   ÚsumÚallÚargsortr   ÚlogrZ   ÚargminÚmean)ry   r˜   r°   r…   ÚdÚlpÚxs          r(   Útest_sgd_probarƒ  /  s¼  € õ ˜W¨D¸2À4Ð
HÑ
HÔ
H×
LÒ
LÍQÕPQÑ
RÔ
R€CÝ�s˜OÑ,Ô,Ð,Ð,Ð,Ý�sÐ/Ñ0Ô0Ð0Ð0Ð0ð /ð %ñ %ˆØˆe˜ T°BÐ7Ñ7Ô7ˆØ�Š••1‰ŒˆØ×Ò  1˜v˜hÑ'Ô'ˆØ�Œw˜Š}ˆ}ˆ}ˆ}Ø×Ò  B˜x˜jÑ)Ô)ˆØ�Œw˜Š}ˆ}ˆ}ˆ}õ Œ[ Ð)Ñ)Ô)ð 	%ð 	%Ø×%Ò%¨¨1 v hÑ/Ô/ˆAØ�T”7˜Q˜tœWÒ$Ð$Ð$Ð$Ø×%Ò%¨¨B x jÑ1Ô1ˆAØ�T”7˜Q˜tœWÒ$Ð$Ð$Ð$Ð$ð		%ð 	%ð 	%ñ 	%ô 	%ð 	%ð 	%ð 	%ð 	%ð 	%ð 	%øøøð 	%ð 	%ð 	%ð 	%ùð ˆ%�Z t°bÐ
9Ñ
9Ô
9×
=Ò
=½bÅ"Ñ
EÔ
E€Cà×Ò  T˜{¨S°#¨JÐ7Ñ8Ô8€AØ×Ò˜C ˜;¨¨c¨
Ð3Ñ4Ô4€AÝ•r”y ¨Ð+Ñ+Ô+­R¬Y°q¸qÐ-AÑ-AÔ-AÑBÔBÐBÝ˜˜!œŸš™
œ
 AÑ&Ô&Ð&ÝŒ6�!�A”$˜!’)ÑÔÐÐÐà×Ò˜B ˜8˜*Ñ%Ô%€AØ×Ò  B˜x˜jÑ)Ô)€AÝ•r”z ! A¤$Ñ'Ô'­¬°A°a´DÑ)9Ô)9Ñ:Ô:Ð:à	×	Ò	  A ˜xÑ	(Ô	(€BØ×Ò˜A˜q˜6˜(Ñ#Ô#€AÝ�bœf Q™iœi¨Ñ,Ô,Ð,à	×	Ò	  R ˜zÑ	*Ô	*€BØ×Ò˜B ˜8˜*Ñ%Ô%€AÝ�bœf Q™iœi¨Ñ,Ô,Ð,ð
 ˆ%Ð%¨T¸BÐ
?Ñ
?Ô
?€CØ‡G‚G�B•�O„O€OØ×Ò  1˜v˜hÑ'Ô'€AØ×Ò˜A˜q˜6˜(Ñ#Ô#€AØÕ#Ò#Ð#ÝŒy˜ Ð#Ñ#Ô#¥r¤y°¸Ð';Ñ';Ô';Ò;Ð;Ð;Ð;Ð;åŒy˜ Ð#Ñ#Ô#¥r¤y°¸Ð';Ñ';Ô';Ò;Ð;Ð;Ð;õ
 	
�Š�Aˆ‰Œ€AØ×Ò˜q˜cÑ"Ô"€AÝ	„vˆa�"Šf�~„~ð 7Ø×Ò˜q˜cÑ"Ô"ˆÝ! ! A¤$¨¨	°A©Ñ6Ô6Ð6Ð6Ð6ð7ð 7s   Ã*AEÅE	ÅE	c                 óh  — t          t          ¦  «        }t          j                             d¦  «        }t          j        |¦  «        }|                     |¦  «         t          |d d …f         }t          |         } | ddddd d¬¦  «        }|                     ||¦  «         t          |j
        ddd	…f         t          j        d
¦  «        ¦  «         |                     |¦  «        }t          ||¦  «         |                     ¦   «          t          j        |j
        ¦  «        sJ ‚|                     |¦  «        }t          ||¦  «         t!          j        t!          j        |¦  «        ¦  «        }t          j        |j
        ¦  «        sJ ‚|                     |¦  «        }t          ||¦  «         d S )Né   r¸   rv  FéÐ  )r¹   r{   r  r#   r"   rŠ   r   ra   r`   )é   )r  ÚX4rt   rë   rì   ÚarangerŠ   ÚY4r2   r   r‘   ru   r  Úsparsifyr/   ÚissparseÚpickleÚloadsÚdumps)ry   Únr;  Úidxr5   r–   r˜   rS  s           r(   Útest_sgd_l1r’  w  s|  € õ 	�B‰Œ€AÝ
Œ)×
Ò
 Ñ
#Ô
#€CÝ
Œ)�A‰,Œ,€CØ‡K‚K�ÑÔÐå
ˆ3���ˆ6Œ
€AÝ
ˆ3Œ€Aà
ˆ%ØØØØØØðñ ô €Cð ‡G‚GˆAˆq�M„M€MÝ�s”y  A b D Ô)­2¬8°D©>¬>Ñ:Ô:Ð:Ø�;Š;�q‰>Œ>€DÝ�t˜QÑÔÐð ‡L‚L�N„N€NÝŒ;�s”yÑ!Ô!Ð!Ð!Ð!Ø�;Š;�q‰>Œ>€DÝ�t˜QÑÔÐõ Œ,•v”| CÑ(Ô(Ñ
)Ô
)€CÝŒ;�s”yÑ!Ô!Ð!Ð!Ð!Ø�;Š;�q‰>Œ>€DÝ�t˜QÑÔÐÐÐr*   c                 óÐ  — t          j        ddgddgddgddgddgg¦  «        }g d¢} | ddd	d ¬
¦  «        }|                     ||¦  «         t          |                     ddgg¦  «        t          j        dg¦  «        ¦  «          | ddd	ddi¬
¦  «        }|                     ||¦  «         t          |                     ddgg¦  «        t          j        dg¦  «        ¦  «         d S )NrÖ   r   çš™™™™™é¿rr   rp   ©ra   ra   ra   r`   r`   r/  rÝ   F)r{   r#   r  rH  rv  ra   rŒ   r`   ©rt   r¥   r2   r   r  ©ry   r5   r6   r˜   s       r(   Útest_class_weightsr˜  �  sö   € õ 	Œ�4˜�,  q 	¨D°$¨<¸#¸s¸ÀcÈ3ÀZÐPÑQÔQ€AØÐÐ€Aà
ˆ%�c D¸ÈDÐ
QÑ
QÔ
Q€CØ‡G‚GˆAˆq�M„M€MÝ�s—{’{ S¨$ K =Ñ1Ô1µ2´8¸Q¸C±=´=ÑAÔAÐAð ˆ%�c D¸ÈQÐPUÈJÐ
WÑ
WÔ
W€CØ‡G‚GˆAˆq�M„M€Mõ �s—{’{ S¨$ K =Ñ1Ô1µ2´8¸R¸D±>´>ÑBÔBÐBÐBÐBr*   c                 ó  — ddgddgddgddgg}g d¢} | ddd ¬¦  «        }|                      ||¦  «         ddgddgg}ddg} | dddddœ¬¦  «        }|                      ||¦  «         t          |j        |j        d	¬
¦  «         d S )Nra   r   )r   r   ra   ra   r/  rÝ   ©r{   r#   rH  rd   rq  rb   rÌ   )r2   r   r‘   )ry   r5   r6   r˜   Úclf_weighteds        r(   Útest_equal_class_weightrœ  °  sÃ   € ð ˆQˆ�!�Q�˜!˜Q˜ ! Q Ð(€AØˆˆ€AØ
ˆ%�c D°tÐ
<Ñ
<Ô
<€CØ‡G‚GˆAˆq�M„M€Mà
ˆQˆ�!�Q�Ð€AØ	
ˆAˆ€AØ�5˜s¨TÀCÈCÐ@PÐ@PÐQÑQÔQ€LØ×Ò�Q˜ÑÔÐõ ˜œ	 <Ô#5¸qÐAÑAÔAÐAÐAÐAr*   c                 óÊ   —  | ddddi¬¦  «        }t          j        t          ¦  «        5  |                     t          t
          ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nr/  rÝ   r   rd   rš  r´   rÄ   s     r(   Útest_wrong_class_weight_labelrž  Á  s£   € ð ˆ%�c D¸¸3°xÐ
@Ñ
@Ô
@€CÝ	Œ•zÑ	"Ô	"ð ð Ø�Š••1‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð s   ª!AÁAÁAc                 ó.  — dddœ}t           j                             d¦  «        }|                     t          j        d         ¦  «        }t          j        |¦  «        }|t          dk    xx         |d         z  cc<   |t          dk    xx         |d         z  cc<    | dd|¬	¦  «        } | dd¬
¦  «        }|                     t          t          |¬¦  «         |                     t          t          |¬¦  «         t          |j
        |j
        ¦  «         d S )Ng333333ã?ru  )ra   rb   r   ra   rb   r/  r1  rš  rA  ©Úsample_weight)rt   rë   rì   Úrandom_samplerŠ  rv   r’   r2   rˆ  r   r‘   )ry   Úclass_weightsr;  Úsample_weightsÚmultiplied_togetherrÑ   r™   s          r(   Útest_weights_multipliedr¦  É  s  € ð  Ð$Ð$€MÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ×&Ò&¥r¤x°¤{Ñ3Ô3€NÝœ' .Ñ1Ô1ÐØ�˜ašÐ Ð Ô  M°!Ô$4Ñ4Ð Ð Ñ Ø�˜ašÐ Ð Ô  M°!Ô$4Ñ4Ð Ð Ñ àˆ5�s R°mÐDÑDÔD€DØˆ5�s RÐ(Ñ(Ô(€Dà‡H‚H�R• >€HÑ2Ô2Ð2Ø‡H‚H�R•Ð#6€HÑ7Ô7Ð7å˜œ
 D¤JÑ/Ô/Ð/Ð/Ð/r*   c                 óÌ  — t           j        t           j        }}t          |¦  «        }t	          j        |j        d         ¦  «        }t          j                             d¦  «        }| 	                    |¦  «         ||         }||         } | ddd d¬¦  «         
                    ||¦  «        }t          j        ||                     |¦  «        d¬¦  «        }t          |d	d
¬¦  «          | dddd¬¦  «         
                    ||¦  «        }t          j        ||                     |¦  «        d¬¦  «        }t          |d	d
¬¦  «         t          |j        |j        d¦  «         ||dk    d d …f         }||dk             }	t	          j        |g|gdz  z   ¦  «        }
t	          j        |g|	gdz  z   ¦  «        } | dd d¬¦  «        }| 
                    |
|¦  «         |                     |¦  «        }t          j        ||d¬¦  «        d	k     sJ ‚ | ddd¬¦  «        }| 
                    |
|¦  «         |                     |¦  «        }t          j        ||d¬¦  «        d	k    sJ ‚d S )Nr   é   rÕ   rÝ   F)r{   r#   rH  rŠ   ÚweightedrÇ   rl   ra   rÌ   rG  rè   )r#   rH  rŠ   )rß   rà   rá   r   rt   r‰  rv   rë   rì   rŠ   r2   r   Úf1_scorer  r   r   r‘   ÚvstackÚconcatenate)ry   r5   r6   r‘  r;  r˜   Úf1Úclf_balancedÚX_0Úy_0ÚX_imbalancedÚy_imbalancedÚy_preds                r(   Útest_balanced_weightr´  Ü  sn  € õ
 Œ9•d”k€q€AÝˆa‰Œ€AÝ
Œ)�A”G˜A”JÑ
Ô
€CÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ‡K‚K�ÑÔÐØ	ˆ#Œ€AØ	ˆ#Œ€AØ
ˆ%�f t¸$ÈÐ
NÑ
NÔ
N×
RÒ
RÐSTÐVWÑ
XÔ
X€CÝ	Ô	˜!˜SŸ[š[¨™^œ^°ZÐ	@Ñ	@Ô	@€BÝ˜˜D¨!Ð,Ñ,Ô,Ð,ð �5Ø˜t°*Àeðñ ô ç	‚cˆ!ˆQ�i„ið õ 
Ô	˜!˜\×1Ò1°!Ñ4Ô4¸jÐ	IÑ	IÔ	I€BÝ˜˜D¨!Ð,Ñ,Ô,Ð,õ ˜cœi¨Ô);¸QÑ?Ô?Ð?ð ˆA�ŠF�A�A�AˆIŒ,€CØ
ˆA�ŠFŒ)€Cå”9˜a˜S C 5¨2¡:Ñ-Ñ.Ô.€LÝ”> 1 #¨¨°©
Ñ"2Ñ3Ô3€Lð ˆ%˜¨D¸%Ð
@Ñ
@Ô
@€CØ‡G‚GˆL˜,Ñ'Ô'Ð'Ø�[Š[˜‰^Œ^€FÝÔ˜A˜v¨zÐ:Ñ:Ô:¸TÒAÐAÐAÐAð ˆ%˜¨JÀÐ
FÑ
FÔ
F€CØ‡G‚GˆL˜,Ñ'Ô'Ð'Ø�[Š[˜‰^Œ^€FÝÔ˜A˜v¨zÐ:Ñ:Ô:¸TÒAÐAÐAÐAÐAÐAr*   c                 óÆ  — t          j        ddgddgddgddgddgg¦  «        }g d¢} | ddd	¬
¦  «        }|                     ||¦  «         t          |                     ddgg¦  «        t          j        dg¦  «        ¦  «         |                     ||dgdz  dgdz  z   ¬¦  «         t          |                     ddgg¦  «        t          j        dg¦  «        ¦  «         d S )NrÖ   r   r”  rr   rp   r•  r/  rÝ   F©r{   r#   r  rv  ra   rŒ   rc   rb   r   r`   r–  r—  s       r(   Útest_sample_weightsr·    sï   € õ 	Œ�4˜�,  q 	¨D°$¨<¸#¸s¸ÀcÈ3ÀZÐPÑQÔQ€AØÐÐ€Aà
ˆ%�c D¸Ð
>Ñ
>Ô
>€CØ‡G‚GˆAˆq�M„M€MÝ�s—{’{ S¨$ K =Ñ1Ô1µ2´8¸Q¸C±=´=ÑAÔAÐAð ‡G‚GˆAˆq  ¨!¡¨q¨c°A©gÑ 5€GÑ6Ô6Ð6õ �s—{’{ S¨$ K =Ñ1Ô1µ2´8¸R¸D±>´>ÑBÔBÐBÐBÐBr*   c                 óL  — | t           t          fv r | ddd¬¦  «        }n| t          t          fv r | ddd¬¦  «        }t	          j        t          ¦  «        5  |                     t          t          t          j        d¦  «        ¬¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nr/  rÝ   Fr¶  )Únur#   r  r×   r   )rV   rZ   rQ   r^   r¨   r©   rª   r2   r5   r–   rt   r‰  rÄ   s     r(   Útest_wrong_sample_weightsrº    sè   € ð
 •Õ 3Ð4Ð4Ð4Øˆe˜#¨¸EÐBÑBÔBˆˆØ	•>Õ#7Ð8Ð	8Ð	8Øˆe�s T¸Ð?Ñ?Ô?ˆå	Œ•zÑ	"Ô	"ð 2ð 2Ø�Š••1¥B¤I¨a¡L¤LˆÑ1Ô1Ð1ð2ð 2ð 2ñ 2ô 2ð 2ð 2ð 2ð 2ð 2ð 2ð 2øøøð 2ð 2ð 2ð 2ð 2ð 2s   Á5BÂBÂ Bc                 óÂ   —  | d¬¦  «        }t          j        t          ¦  «        5  |                     t          t
          ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nrs   r�   )r¨   r©   rª   r;   rþ   rÿ   rÄ   s     r(   Útest_partial_fit_exceptionr¼  +  sœ   € à
ˆ%�dÐ
Ñ
Ô
€Cå	Œ•zÑ	"Ô	"ð  ð  Ø�Š��BÑÔÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  ð  ð  s   ¦!AÁAÁAc                 óÊ  — t           j        d         dz  } | d¬¦  «        }t          j        t          ¦  «        }|                     t           d |…         t          d |…         |¬¦  «         |j        j        dt           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚t          |j        j
        ¦  «        }|                     t           |d …         t          |d …         ¦  «         t          |j        j
        ¦  «        }|s
J |¦   «         ‚|                     t          ¦  «        }t          |t          ¦  «         d S )Nr   rc   rs   r�   rÉ   ra   ra  )r5   rv   rt   rÏ   r–   r;   r‘   r“   r=   Úidrà   r  r  r   r  )ry   Úthirdr˜   rÊ   Úid1Úid2r³  s          r(   Útest_partial_fit_binaryrÂ  3  s/  € åŒG�AŒJ˜!‰O€EØ
ˆ%�dÐ
Ñ
Ô
€CÝŒi�‰lŒl€Gà‡O‚O•A�f�u�f”I�q  % œy°'€OÑ:Ô:Ð:ØŒ9Œ?˜q¥!¤'¨!¤*˜oÒ-Ð-Ð-Ð-ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø× Ò  1 a & Ñ*Ô*Ô0°DÒ8Ð8Ð8Ð8Ý
ˆSŒYŒ^Ñ
Ô
€Cà‡O‚O•A�e�f�f”I�q   œyÑ)Ô)Ð)Ý
ˆSŒYŒ^Ñ
Ô
€Cà€O€O��O„Oˆ3à�[Š[�‰^Œ^€FÝ�v�{Ñ+Ô+Ð+Ð+Ð+r*   c                 ól  — t           j        d         dz  } | d¬¦  «        }t          j        t          ¦  «        }|                     t           d |…         t          d |…         |¬¦  «         |j        j        dt           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚t          |j        j
        ¦  «        }|                     t           |d …         t          |d …         ¦  «         t          |j        j
        ¦  «        }|s
J |¦   «         ‚d S )	Nr   rc   rs   r�   rÉ   ra   r  rM  )rC  rv   rt   rÏ   rO  r;   r‘   r“   r=   r¾  rà   )ry   r¿  r˜   rÊ   rÀ  rÁ  s         r(   Útest_partial_fit_multiclassrÄ  H  s  € åŒH�QŒK˜1Ñ€EØ
ˆ%�dÐ
Ñ
Ô
€CÝŒi�‰mŒm€Gà‡O‚O•B�v˜�v”J¥ 6 E 6¤
°G€OÑ<Ô<Ð<ØŒ9Œ?˜q¥"¤(¨1¤+Ð.Ò.Ð.Ð.Ð.ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø× Ò  1 a & Ñ*Ô*Ô0°FÒ:Ð:Ð:Ð:Ý
ˆSŒYŒ^Ñ
Ô
€Cà‡O‚O•B�u�v�v”J¥ 5 6 6¤
Ñ+Ô+Ð+Ý
ˆSŒYŒ^Ñ
Ô
€Cà€O€O��O„Oˆ3€O€Or*   c                 ó8  — t           j        d         dz  } | dt           j        d         ¬¦  «        }t          j        t          ¦  «        }|                     t           d |…         t          d |…         |¬¦  «         |j        j        dt           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     t           |d …         t          |d …         ¦  «         |j        j        dt           j        d         fk    sJ ‚|j        j        dk    sJ ‚d S )Nr   rc   rs   )r{   r¾   rÉ   ra   r  )rC  rv   rt   rÏ   rO  r;   r‘   r“   )ry   r¿  r˜   rÊ   s       r(   Ú#test_partial_fit_multiclass_averagerÆ  Z  s÷   € åŒH�QŒK˜1Ñ€EØ
ˆ%�d¥B¤H¨Q¤KÐ
0Ñ
0Ô
0€CÝŒi�‰mŒm€Gà‡O‚O•B�v˜�v”J¥ 6 E 6¤
°G€OÑ<Ô<Ð<ØŒ9Œ?˜q¥"¤(¨1¤+Ð.Ò.Ð.Ð.Ð.ØŒ>Ô 4Ò'Ð'Ð'Ð'à‡O‚O•B�u�v�v”J¥ 5 6 6¤
Ñ+Ô+Ð+ØŒ9Œ?˜q¥"¤(¨1¤+Ð.Ò.Ð.Ð.Ð.ØŒ>Ô 4Ò'Ð'Ð'Ð'Ð'Ð'r*   c                 óš   —  | ¦   «         }|                      t          t          ¦  «         |                     t          t          ¦  «         d S r.   )r2   rC  rO  r;   rÄ   s     r(   Útest_fit_then_partial_fitrÈ  i  s:   € ð
 ˆ%‰'Œ'€CØ‡G‚G�B•�O„O€OØ‡O‚O•B�ÑÔÐÐÐr*   c                 óê  — t           t          t          ft          t          t
          ffD ]É\  }}} | ddd|d¬¦  «        }|                     ||¦  «         |                     |¦  «        }|j        }t          j
        |¦  «        } | dd|d¬¦  «        }t          d¦  «        D ]}	|                     |||¬¦  «         Œ|                     |¦  «        }
|j        |k    sJ ‚t          ||
d¬¦  «         ŒÊd S )Nrs   rb   F)r{   r‰   r#   r‹   rŠ   ©r{   r‰   r‹   rŠ   rÉ   rÌ   )r5   r–   r  rC  rO  rP  r2   r=   r”   rt   rÏ   rÎ   r;   r   )ry   r—   ÚX_r«   ÚT_r˜   r³  ÚtrÊ   rƒ   Úy_pred2s              r(   Ú"test_partial_fit_equal_fit_classifrÏ  s  s	  € õ �1�a�y¥2¥r­2 ,Ð/ð >ð >‰
ˆˆB�Øˆe˜$ T°AÀRÐQVÐWÑWÔWˆØ�Š��B‰ŒˆØ×&Ò& rÑ*Ô*ˆØŒFˆå”)˜B‘-”-ˆØˆe˜$ T¸ÀUÐKÑKÔKˆÝ�q‘”ð 	5ð 	5ˆAØ�OŠO˜B ¨GˆOÑ4Ô4Ð4Ð4Ø×'Ò'¨Ñ+Ô+ˆàŒv˜Š{ˆ{ˆ{ˆ{Ý! &¨'¸1Ð=Ñ=Ô=Ð=Ð=ð>ð >r*   c                 ó˜  — t           j                             d¦  «        } | dddd|¬¦  «        }|                     t          t
          ¦  «         dt          j        |                     t          ¦  «        t
          k    ¦  «        k    sJ ‚ | dddd|¬¦  «        }|                     t          t
          ¦  «         dt          j        |                     t          ¦  «        t
          k    ¦  «        k    sJ ‚ | dd	|¬
¦  «        }|                     t          t
          ¦  «         dt          j        |                     t          ¦  «        t
          k    ¦  «        k    sJ ‚ | dddd|¬¦  «        }|                     t          t
          ¦  «         dt          j        |                     t          ¦  «        t
          k    ¦  «        k    sJ ‚d S )Nra   rs   rœ   r/  Úepsilon_insensitive)r{   r‹   r‰   r°   r    rr   Úsquared_epsilon_insensitiveÚhuber)r{   r°   r    r²   )rt   rë   rì   r2   r5   r–   r  r  )ry   r    r˜   s      r(   Útest_regression_lossesrÔ  †  s”  € å”9×(Ò(¨Ñ+Ô+€LØ
ˆ%ØØ ØØ"Ø!ðñ ô €Cð ‡G‚G�A�q�M„M€MØ•"”'˜#Ÿ+š+¥a™.œ.­AÒ-Ñ.Ô.Ò.Ð.Ð.Ð.à
ˆ%ØØ ØØ*Ø!ðñ ô €Cð ‡G‚G�A�q�M„M€MØ•"”'˜#Ÿ+š+¥a™.œ.­AÒ-Ñ.Ô.Ò.Ð.Ð.Ð.à
ˆ%�d °|Ð
DÑ
DÔ
D€CØ‡G‚G�A�q�M„M€MØ•"”'˜#Ÿ+š+¥a™.œ.­AÒ-Ñ.Ô.Ò.Ð.Ð.Ð.à
ˆ%ØØ ØØØ!ðñ ô €Cð ‡G‚G�A�q�M„M€MØ•"”'˜#Ÿ+š+¥a™.œ.­AÒ-Ñ.Ô.Ò.Ð.Ð.Ð.Ð.Ð.r*   c                 ó>   — t          | t          t          d¦  «         d S )Nr�   )r›   rC  rO  r   s    r(   Útest_warm_start_multiclassrÖ  ¬  s   € å�U�B¥ IÑ.Ô.Ð.Ð.Ð.r*   c                 ó2  —  | dd¬¦  «        }|                      t          t          ¦  «         t          |d¦  «        sJ ‚d„ t	          ¦   «                              t          ¦  «        D ¦   «         }|                      t          d d …d d…f         |¦  «         d S )Nrs   Fr¤   r‘   c                 ó"   — g | ]}d dg|         ‘ŒS )ÚhamÚspamr%   )rø   rƒ   s     r(   rù   z%test_multiple_fit.<locals>.<listcomp>¹  s!   € ÐEÐEÐE ˆ%�ˆ˜Ô	ÐEÐEÐEr*   r`   )r2   r5   r–   rÃ   r   Úfit_transform)ry   r˜   r6   s      r(   Útest_multiple_fitrÜ  ±  s‘   € ð ˆ%�d EÐ
*Ñ
*Ô
*€CØ‡G‚G�A�q�M„M€MÝ�3˜Ñ Ô Ð Ð Ð ð 	FÐE¥\¡^¤^×%AÒ%AÅ!Ñ%DÔ%DÐEÑEÔE€AØ‡G‚G�Aˆaˆaˆa��"�ˆfŒI�qÑÔÐÐÐr*   c                 ó    —  | ddd¬¦  «        }|                      ddgddgddggg d¢¦  «         |j        d         |j        d         k    sJ ‚d S )Nr/  rb   Fr¶  r   ra   )r   ra   rb   )r2   r‘   rÄ   s     r(   Útest_sgd_regrÞ  Á  sh   € ð ˆ%�c A°UÐ
;Ñ
;Ô
;€CØ‡G‚Gˆa�ˆV�a˜�V˜a ˜VÐ$ i i iÑ0Ô0Ð0ØŒ9�QŒ<˜3œ9 Qœ<Ò'Ð'Ð'Ð'Ð'Ð'r*   c           
      ó´  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        }|                     |¬¦  «        }t          j        ||¦  «        } | dd||d	d
d	d¬¦  «        }	|	                     ||¦  «         t          | ||||¦  «        \  }
}t          |	j        |
d¬¦  «         t          |	j
        |d¬¦  «         d S )NrŒ   rs   r1  rè   r   r2  r²   rœ   Tra   Fr4  rË   rÌ   )rt   rë   rì   r6  rx   r2   r‡   r   r‘   r   r“   ©ry   rz   r{   r9  r:  r;  r5   r  r6   r˜   r   r�   s               r(   Ú$test_sgd_averaged_computed_correctlyrá  É  sú   € ð €CØ€EØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€AØ�
Š
˜
ˆ
Ñ#Ô#€Aõ 	Œˆq�!‰Œ€Aà
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cð ‡G‚GˆAˆq�M„M€MÝ)-¨e°Q¸¸3ÀÑ)FÔ)FÑ&€OÐ&å˜cœi¨À"ÐEÑEÔEÐEÝ˜œÐ(9À2ÐFÑFÔFÐFÐFÐFr*   c           
      óÌ  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        }|                     |¬¦  «        }t          j        ||¦  «        } | dd||d	d
d	d¬¦  «        }	|	                     |d t          |dz  ¦  «        …         d d …         |d t          |dz  ¦  «        …         ¦  «         |	                     |t          |dz  ¦  «        d …         d d …         |t          |dz  ¦  «        d …         ¦  «         t          | ||||¦  «        \  }
}t          |	j	        |
d¬¦  «         t          |	j        d         |d¬¦  «         d S )NrŒ   rs   r1  rè   r   r2  r²   rœ   Tra   Fr4  rb   rË   rÌ   )rt   rë   rì   r6  rx   r;   Úintr‡   r   r‘   r   r“   rà  s               r(   Útest_sgd_averaged_partial_fiträ  ê  s„  € ð €CØ€EØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€AØ�
Š
˜
ˆ
Ñ#Ô#€Aõ 	Œˆq�!‰Œ€Aà
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cð ‡O‚O�AÐ*�˜I¨™MÑ*Ô*Ð*Ô+¨A¨A¨AÔ.°Ð2FµC¸	ÀA¹Ñ4FÔ4FÐ2FÔ0GÑHÔHÐHØ‡O‚O�A•c˜) a™-Ñ(Ô(Ð*Ð*Ô+¨A¨A¨AÔ.°µ#°iÀ!±mÑ2DÔ2DÐ2FÐ2FÔ0GÑHÔHÐHÝ)-¨e°Q¸¸3ÀÑ)FÔ)FÑ&€OÐ&å˜cœi¨À"ÐEÑEÔEÐEÝ˜œ qÔ)Ð+<ÀbÐIÑIÔIÐIÐIÐIr*   c           
      óT  — d}d} | dd||dddd¬¦  «        }t           j        d	         }|                     t          d t	          |d
z  ¦  «        …         d d …         t           d t	          |d
z  ¦  «        …         ¦  «         |                     t          t	          |d
z  ¦  «        d …         d d …         t           t	          |d
z  ¦  «        d …         ¦  «         t          | t          t           ||¦  «        \  }}t          |j        |d¬¦  «         t          |j	        |d¬¦  «         d S )NrŒ   rs   r²   rœ   Tra   Fr4  r   rb   rË   rÌ   )
rÿ   rv   r;   rþ   rã  r‡   r   r‘   r   r“   )ry   rz   r{   r˜   r9  r   r�   s          r(   Útest_average_sparseræ    s/  € ð €CØ€EØ
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cõ ”˜”€Ià‡O‚O•BÐ+�˜Y¨™]Ñ+Ô+Ð+Ô,¨Q¨Q¨QÔ/µÐ4Hµc¸)Àa¹-Ñ6HÔ6HÐ4HÔ1IÑJÔJÐJØ‡O‚O•B•s˜9 q™=Ñ)Ô)Ð+Ð+Ô,¨Q¨Q¨QÔ/µµC¸	ÀA¹Ñ4FÔ4FÐ4HÐ4HÔ1IÑJÔJÐJÝ)-¨eµR½¸SÀ%Ñ)HÔ)HÑ&€OÐ&å˜cœi¨À"ÐEÑEÔEÐEÝ˜œÐ(9À2ÐFÑFÔFÐFÐFÐFr*   c                 ó`  — d\  }}d}t           j                             d¦  «        }t          j        |||¦  «                             |d¦  «        }d|                     ¦   «         z  } | dddd	¬
¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d|                     ¦   «         z  |                     |d¦  «                             ¦   «         z   } | dddd	¬
¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d S )N©éûÿÿÿr$   rÈ   r   ra   rd   r²   r/  r1  F)r°   r{   r#   r  rn   ©	rt   rë   rì   Úlinspacer8  rØ   r2   ÚscoreÚrandn©	ry   ÚxminÚxmaxr9  r;  r5   r6   r˜   rì  s	            r(   Útest_sgd_least_squares_fitrñ  &  s  € à�J€Dˆ$Ø€IÝ
Œ)×
Ò
 Ñ
"Ô
"€CÝ
Œ�D˜$ 	Ñ*Ô*×2Ò2°9¸aÑ@Ô@€Að 	ˆa�gŠg‰iŒi‰€Aà
ˆ%�_¨C¸"ÈEÐ
RÑ
RÔ
R€CØ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�4Š<ˆ<ˆ<ˆ<ð 	ˆa�gŠg‰iŒi‰˜#Ÿ)š) I¨qÑ1Ô1×7Ò7Ñ9Ô9Ñ9€Aà
ˆ%�_¨C¸"ÈEÐ
RÑ
RÔ
R€CØ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�3Š;ˆ;ˆ;ˆ;ˆ;ˆ;r*   c                 ód  — d\  }}d}t           j                             d¦  «        }t          j        |||¦  «                             |d¦  «        }d|                     ¦   «         z  } | dddd	d
¬¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d|                     ¦   «         z  |                     |d¦  «                             ¦   «         z   } | dddd	d
¬¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d S )Nrè  rÈ   r   ra   rd   rÑ  rs   r/  r1  F©r°   Úepsilonr{   r#   r  rn   rê  rî  s	            r(   Útest_sgd_epsilon_insensitiverõ  >  s=  € à�J€Dˆ$Ø€IÝ
Œ)×
Ò
 Ñ
"Ô
"€CÝ
Œ�D˜$ 	Ñ*Ô*×2Ò2°9¸aÑ@Ô@€Að 	ˆa�gŠg‰iŒi‰€Aà
ˆ%Ø"ØØØØðñ ô €Cð ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�4Š<ˆ<ˆ<ˆ<ð 	ˆa�gŠg‰iŒi‰˜#Ÿ)š) I¨qÑ1Ô1×7Ò7Ñ9Ô9Ñ9€Aà
ˆ%Ø"ØØØØðñ ô €Cð ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�3Š;ˆ;ˆ;ˆ;ˆ;ˆ;r*   c                 ód  — d\  }}d}t           j                             d¦  «        }t          j        |||¦  «                             |d¦  «        }d|                     ¦   «         z  } | ddddd	¬
¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d|                     ¦   «         z  |                     |d¦  «                             ¦   «         z   } | ddddd	¬
¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d S )Nrè  rÈ   r   ra   rd   rÓ  r/  r1  Fró  rn   rê  rî  s	            r(   Útest_sgd_huber_fitr÷  b  s%  € à�J€Dˆ$Ø€IÝ
Œ)×
Ò
 Ñ
"Ô
"€CÝ
Œ�D˜$ 	Ñ*Ô*×2Ò2°9¸aÑ@Ô@€Að 	ˆa�gŠg‰iŒi‰€Aà
ˆ%�W c°¸rÐQVÐ
WÑ
WÔ
W€CØ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�4Š<ˆ<ˆ<ˆ<ð 	ˆa�gŠg‰iŒi‰˜#Ÿ)š) I¨qÑ1Ô1×7Ò7Ñ9Ô9Ñ9€Aà
ˆ%�W c°¸rÐQVÐ
WÑ
WÔ
W€CØ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�3Š;ˆ;ˆ;ˆ;ˆ;ˆ;r*   c           	      óÐ  — d\  }}t           j                             d¦  «        }|                     ||¦  «        }|                     |¦  «        }t          j        ||¦  «        }dD ]~}dD ]y}t          j        ||d¬¦  «        }	|	                     ||¦  «          | dd||d¬	¦  «        }
|
                     ||¦  «         d
||fz  }t          |	j	        |
j	        d|¬¦  «         ŒzŒd S )N)rÝ   r$   r   )rs   rŒ   )rd   rj   rr   F)r{   r  r  r  é2   )r¹   r#   r{   r  r  zNcd and sgd did not converge to comparable results for alpha=%f and l1_ratio=%frb   )rÍ   r(  )
rt   rë   rì   rí  rx   r   Ú
ElasticNetr2   r   r‘   )ry   r9  r:  r;  r5   Úground_truth_coefr6   r{   r  ÚcdÚsgdr(  s               r(   Útest_elasticnet_convergencerþ  z  s3  € ð $Ñ€IˆzÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�	Š	�)˜ZÑ(Ô(€Að Ÿ	š	 *Ñ-Ô-ÐÝ
ŒˆqÐ#Ñ$Ô$€Að ð Qð QˆØ'ð 	Qð 	QˆHÝÔ(Ø h¸eðñ ô ˆBð �FŠF�1�a‰LŒLˆLØ�%Ø$ØØØ!Ø#ðñ ô ˆCð �GŠG�A�q‰MŒMˆMð7Ø:?ÀÐ9JñKð õ   ¤¨#¬)¸QÈÐPÑPÔPÐPÐPð#	QðQð Qr*   c                 ó4  — t           j        d         dz  } | d¬¦  «        }|                     t           d |…         t          d |…         ¦  «         |j        j        t           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚t          |j        j        ¦  «        }|                     t           |d …         t          |d …         ¦  «         t          |j        j        ¦  «        }|s
J |¦   «         ‚d S )Nr   rc   rs   r�   ra   ra  )	r5   rv   r;   r–   r‘   r“   r  r¾  rà   )ry   r¿  r˜   rÀ  rÁ  s        r(   Útest_partial_fitr   œ  sù   € åŒG�AŒJ˜!‰O€EØ
ˆ%�dÐ
Ñ
Ô
€Cà‡O‚O•A�f�u�f”I�q  % œyÑ)Ô)Ð)ØŒ9Œ?�qœw qœz˜mÒ+Ð+Ð+Ð+ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø�;Š;˜˜A˜�xÑ Ô Ô&¨$Ò.Ð.Ð.Ð.Ý
ˆSŒYŒ^Ñ
Ô
€Cà‡O‚O•A�e�f�f”I�q   œyÑ)Ô)Ð)Ý
ˆSŒYŒ^Ñ
Ô
€Cà€O€O��O„Oˆ3€O€Or*   c                 óœ  —  | ddd|d¬¦  «        }|                      t          t          ¦  «         |                     t          ¦  «        }|j        } | dd|d¬¦  «        }t          d¦  «        D ]"}|                     t          t          ¦  «         Œ#|                     t          ¦  «        }|j        |k    sJ ‚t          ||d¬¦  «         d S )Nrs   rb   F)r{   r#   r‰   r‹   rŠ   rÊ  rÌ   )	r2   r5   r–   r  r  r”   rÎ   r;   r   )ry   r—   r˜   r³  rÍ  rƒ   rÎ  s          r(   Útest_partial_fit_equal_fitr  ­  sÂ   € ð ˆ%�d Q¨TÀÈUÐ
SÑ
SÔ
S€CØ‡G‚G�A�q�M„M€MØ�[Š[�‰^Œ^€FØŒ€Aà
ˆ%�d °RÀÐ
GÑ
GÔ
G€CÝ�1‰XŒXð ð ˆØ�Š��1ÑÔÐÐØ�kŠk�!‰nŒn€GàŒ6�QŠ;ˆ;ˆ;ˆ;Ý˜f g°qÐ9Ñ9Ô9Ð9Ð9Ð9r*   c                 ó|   —  | d¬¦  «        }|                      d¬¦  «         |j        d         d         dk    sJ ‚d S )Nri   )rô  r/  rÓ  ra   )r•   rf  rÄ   s     r(   Útest_loss_function_epsilonr  ¾  sL   € à
ˆ%˜Ð
Ñ
Ô
€CØ‡N‚N˜3€NÑÔÐØÔ˜gÔ& qÔ)¨SÒ0Ð0Ð0Ð0Ð0Ð0r*   c                 óê  — |€ t          j        |j        d         ¦  «        }n|}t          j        |j        d         ¦  «        }|}d|z
  }	d}
d}| t          k    rd}t	          |¦  «        D ]‚\  }}t          j        ||¦  «        }||	z  }|dk    rd}nd}|t          dd||z  z
  ¦  «        z  }|||z  |z   z  }|	|||z   z   |z  z  }	||z  }||z  }||dz   z  }|
|z  }
|
|	z  }
|
|dz   z  }
Œƒ|d|
z
  fS )Nra   rp   rr   rs   r`   r   )rt   ru   rv   r^   rw   rx   Úmax)ry   r5   rz   r¹  rŽ   r"  ÚcoefrY  Úoffsetr€   r�   r‚   rƒ   r„   r…   r†   s                   r(   Úasgd_oneclassr	  Ê  sU  € ØÐÝŒx˜œ œ
Ñ#Ô#ˆˆàˆå”8˜AœG AœJÑ'Ô'€LØ€FØ�F‘
€IØÐØ€Eð Õ$Ò$Ð$Øˆå˜a‘L”Lð %ð %‰ˆˆ5ÝŒF�5˜$ÑÔˆØ	ˆY‰ˆØ�Š8ˆ8ØˆHˆHàˆHØ•�A�s˜S 2™X‘~Ñ&Ô&Ñ&ˆØ�#˜‘. 5Ñ(Ð)Ñ)ˆØ�s˜b 8™mÑ,Ð-°Ñ5Ñ5ˆ	à˜ÑˆØ˜ÑˆØ˜˜C™Ñˆà˜QÑÐØ˜YÑ&ÐØ˜Q ™WÑ$ÐÐà˜Ð.Ñ.Ð.Ð.r*   c                 óH  —  | ddd|¬¦  «        }|                      |¦  «          | ddd|¬¦  «        }|                      ||j                             ¦   «         |j                             ¦   «         ¬¦  «          | dddd|¬¦  «        }|                      |¦  «         |j        |j        k    sJ ‚t          |j        |j        ¦  «         |                     d¬	¦  «         |                      |¦  «         |j        |j        k    sJ ‚t          |j        |j        ¦  «         d S )
Nrd   rs   F)r¹  r‰   rŠ   r‹   r/  ©rŽ   r"  T)r¹  r‰   rŠ   r�   r‹   ©r¹  )r2   r‘   r’   rÐ   r”   r   r•   )ry   r5   r—   r˜   r™   rš   s         r(   Ú_test_warm_start_oneclassr  ð  s  € ð ˆ%�3˜T¨5ÀÐ
CÑ
CÔ
C€CØ‡G‚GˆA�J„J€Jàˆ5�C˜d¨EÀÐDÑDÔD€DØ‡H‚HˆQ˜#œ)Ÿ.š.Ñ*Ô*¸¼×8HÒ8HÑ8JÔ8J€HÑKÔKÐKð ˆ5�C˜d¨E¸dÐRTÐUÑUÔU€DØ‡H‚HˆQ�K„K€KàŒ7�c”fÒÐÐÐÝ�D”J ¤	Ñ*Ô*Ð*à‡O‚O�s€OÑÔÐØ‡H‚HˆQ�K„K€KàŒ7�d”gÒÐÐÐÝ�D”J ¤
Ñ+Ô+Ð+Ð+Ð+r*   c                 ó2   — t          | t          |¦  «         d S r.   )r  r5   r¡   s     r(   Útest_warm_start_oneclassr    s   € õ ˜e¥Q¨Ñ+Ô+Ð+Ð+Ð+r*   c                 ó  —  | d¬¦  «        }t          |¦  «        }|                     d¬¦  «         |                     t          ¦  «          | d¬¦  «        }|                     t          ¦  «         t	          |j        |j        ¦  «         d S )Nrd   r  r/  )r   r•   r2   r5   r   r‘   r»   s      r(   Útest_clone_oneclassr    sy   € ð ˆ%�3ˆ-‰-Œ-€CÝ
�‰*Œ*€CØ‡N‚N�c€NÑÔÐØ‡G‚G�A�J„J€Jàˆ5�Cˆ=‰=Œ=€DØ‡H‚H�Q�K„K€Kå�s”y $¤*Ñ-Ô-Ð-Ð-Ð-r*   c                 óP  — t           j        d         dz  } | d¬¦  «        }|                     t           d |…         ¦  «         |j        j        t           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚|j        }|                     t           |d …         ¦  «         |j        |u sJ ‚t          j        t          ¦  «        5  |                     t           d d …df         ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nr   rc   r/  r  ra   ra  )	r5   rv   r;   r‘   rÐ   r  r¨   r©   rª   )ry   r¿  r˜   Úprevious_coefss       r(   Útest_partial_fit_oneclassr    s[  € åŒG�AŒJ˜!‰O€EØ
ˆ%�3ˆ-‰-Œ-€Cà‡O‚O•A�f�u�f”IÑÔÐØŒ9Œ?�qœw qœz˜mÒ+Ð+Ð+Ð+ØŒ;Ô Ò$Ð$Ð$Ð$Ø�;Š;˜˜A˜�xÑ Ô Ô&¨$Ò.Ð.Ð.Ð.Ø”Y€Nà‡O‚O•A�e�f�f”IÑÔÐàŒ9˜Ð&Ð&Ð&Ð&õ 
Œ•zÑ	"Ô	"ð !ð !Ø�Š�˜!˜!˜!˜Q˜$œÑ Ô Ð ð!ð !ð !ñ !ô !ð !ð !ð !ð !ð !ð !ð !øøøð !ð !ð !ð !ð !ð !s   Ã)%DÄDÄ"Dc                 óò  —  | ddd|d¬¦  «        }|                      t          ¦  «         |                     t          ¦  «        }|j        }|j        }|j        } | ddd|d¬¦  «        }t          d¦  «        D ]}|                     t          ¦  «         Œ|                     t          ¦  «        }|j        |k    sJ ‚t          ||¦  «         t          |j        |¦  «         t          |j        |¦  «         d S )Nçš™™™™™©?rb   rs   F)r¹  r#   r‰   r‹   rŠ   ra   )r¹  r‰   r#   r‹   rŠ   )
r2   r5   r=   r  r”   r‘   rÐ   rÎ   r;   r   )	ry   r—   r˜   Úy_scoresrÍ  r  r  rÒ   Ú	y_scores2s	            r(   Ú#test_partial_fit_equal_fit_oneclassr  /  sõ   € ð ˆ%�4 !¨$¸bÈ%Ð
PÑ
PÔ
P€CØ‡G‚G�A�J„J€JØ×$Ò$¥QÑ'Ô'€HØŒ€AØŒ9€DØŒ[€Fà
ˆ%�4˜d¨Q¸bÈ%Ð
PÑ
PÔ
P€CÝ�1‰XŒXð ð ˆØ�Š�ÑÔÐÐØ×%Ò%¥aÑ(Ô(€IàŒ6�QŠ;ˆ;ˆ;ˆ;Ý�H˜iÑ(Ô(Ð(Ý�C”I˜tÑ$Ô$Ð$Ý�C”K Ñ(Ô(Ð(Ð(Ð(r*   c                 óÈ  — d}d} | dd||dd¬¦  «        } | dd||dd¬¦  «        }|                      t          ¦  «         |                      t          ¦  «         t          | t          |||j                             ¦   «         |j        ¬	¦  «        \  }}t          |j                             ¦   «         |                     ¦   «         ¦  «         t          |j        |¦  «         d S )
NrŒ   r  r×   rœ   rb   F)r¾   r‹   r‰   r¹  r#   rŠ   ra   r  )r2   r5   r	  r‘   rØ   rÐ   r   )ry   r‰   r¹  rÑ   r™   rY  Úaverage_offsets          r(   Ú*test_late_onset_averaging_reached_oneclassr  D  sú   € ð €DØ	€Bð ˆ5Ø °$¸2ÈÐSXðñ ô €Dð ˆ5ØØ ØØØØðñ ô €Dð 	‡H‚H�Q�K„K€KØ‡H‚H�Q�K„K€Kõ $1Ø�q�$˜ d¤j×&6Ò&6Ñ&8Ô&8ÀdÄlð$ñ $ô $Ñ €L�.õ �D”J×$Ò$Ñ&Ô&¨×(:Ò(:Ñ(<Ô(<Ñ=Ô=Ð=Ý�D”L .Ñ1Ô1Ð1Ð1Ð1r*   c           	      óP  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        } | d||dd	dd
¬¦  «        }|                     |¦  «         t          | |||¦  «        \  }}	t          |j        |¦  «         t          |j        |	¦  «         d S )NrŒ   r  r1  rè   r   r2  rœ   Tra   F©r‹   r‰   r¹  r  r#   r¾   rŠ   )	rt   rë   rì   r6  r2   r	  r   r‘   rÐ   ©
ry   rz   r¹  r9  r:  r;  r5   r˜   rY  r  s
             r(   Ú-test_sgd_averaged_computed_correctly_oneclassr   e  sÃ   € ð €CØ	€BØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€Aà
ˆ%Ø ØØØØØØðñ ô €Cð ‡G‚GˆA�J„J€JÝ#0°¸¸3ÀÑ#CÔ#CÑ €L�.å�C”I˜|Ñ,Ô,Ð,Ý�C”K Ñ0Ô0Ð0Ð0Ð0r*   c           	      óú  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        } | d||dd	dd
¬¦  «        }|                     |d t          |dz  ¦  «        …         d d …         ¦  «         |                     |t          |dz  ¦  «        d …         d d …         ¦  «         t          | |||¦  «        \  }}	t          |j        |¦  «         t          |j	        |	¦  «         d S )NrŒ   r  r1  rè   r   r2  rœ   Tra   Fr  rb   )
rt   rë   rì   r6  r;   rã  r	  r   r‘   rÐ   r  s
             r(   Ú&test_sgd_averaged_partial_fit_oneclassr"  €  s  € ð €CØ	€BØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€Aà
ˆ%Ø ØØØØØØðñ ô €Cð ‡O‚O�AÐ*�˜I¨™MÑ*Ô*Ð*Ô+¨A¨A¨AÔ.Ñ/Ô/Ð/Ø‡O‚O�A•c˜) a™-Ñ(Ô(Ð*Ð*Ô+¨A¨A¨AÔ.Ñ/Ô/Ð/Ý#0°¸¸3ÀÑ#CÔ#CÑ €L�.å�C”I˜|Ñ,Ô,Ð,Ý�C”K Ñ0Ô0Ð0Ð0Ð0r*   c           	      ó¦  — d}d} | d||dddd¬¦  «        }t           j        d         }|                     t           d t          |d	z  ¦  «        …         ¦  «         |                     t           t          |d	z  ¦  «        d …         ¦  «         t	          | t           ||¦  «        \  }}t          |j        |¦  «         t          |j        |¦  «         d S )
NrŒ   rs   rœ   Tra   Fr  r   rb   )rþ   rv   r;   rã  r	  r   r‘   rÐ   )ry   rz   r¹  r˜   r9  rY  r  s          r(   Útest_average_sparse_oneclassr$  œ  sÚ   € ð €CØ	€BØ
ˆ%Ø ØØØØØØðñ ô €Cõ ”˜”€Ià‡O‚O•BÐ+�˜Y¨™]Ñ+Ô+Ð+Ô,Ñ-Ô-Ð-Ø‡O‚O•B•s˜9 q™=Ñ)Ô)Ð+Ð+Ô,Ñ-Ô-Ð-Ý#0°½¸CÀÑ#DÔ#DÑ €L�.å�C”I˜|Ñ,Ô,Ð,Ý�C”K Ñ0Ô0Ð0Ð0Ð0r*   c                  ó¤  — d} d}d}t           j                             |¦  «        }d|                     dd¦  «        z  }t           j        |dz   |dz
  f         }d|                     dd¦  «        z  }t           j        |dz   |dz
  f         }t          |d| ¬	¦  «        }|                     |¦  «         |                     |¦  «        }|                     |¦  «         	                    d
d¦  «        }	d}
t          ||¬¦  «        }t          | dd|
|d ¬¦  «        }t          ||¦  «        }|                     |¦  «         |                     |¦  «        }|                     |¦  «         	                    d
d¦  «        }t          j        ||k    ¦  «        dk    sJ ‚t          j        t          j        |	|f¦  «        ¦  «        d         }|dk    sJ ‚d S )Nr  r0  r!   ru  éô  rb   rÈ   Úrbf)ÚgammaÚkernelr¹  ra   r`   é   )r(  r    T)r¹  rŠ   r  r#   r    r"   rn   rq  ri   )rt   rë   rì   rí  Úr_r   r2   r  r=   r8  r   rQ   r   r  Úcorrcoefr¬  )r¹  r(  r    r;  r5   ÚX_trainÚX_testr˜   Úy_pred_ocsvmÚ	dec_ocsvmr#   Ú	transformÚclf_sgdÚpipe_sgdÚy_pred_sgdocsvmÚdec_sgdocsvmr,  s                    r(   Útest_ocsvm_vs_sgdocsvmr6  µ  sÒ  € ð 
€BØ€EØ€Lõ Œ)×
Ò
 Ñ
-Ô
-€CØˆc�iŠi˜˜QÑÔÑ€AÝŒe�A˜‘E˜1˜q™5�LÔ!€GØˆc�iŠi˜˜QÑÔÑ€AÝŒU�1�q‘5˜!˜a™%�<Ô €Fõ ˜E¨%°BÐ
7Ñ
7Ô
7€CØ‡G‚GˆGÑÔÐØ—;’;˜vÑ&Ô&€LØ×%Ò% fÑ-Ô-×5Ò5°a¸Ñ<Ô<€Ið €HÝ˜u°<Ð@Ñ@Ô@€IÝØØØØØ!Øðñ ô €Gõ ˜Y¨Ñ0Ô0€HØ‡L‚L�ÑÔÐØ×&Ò& vÑ.Ô.€OØ×-Ò-¨fÑ5Ô5×=Ò=¸aÀÑDÔD€LåŒ7�? lÒ2Ñ3Ô3°tÒ;Ð;Ð;Ð;ÝŒ{�2œ>¨9°lÐ*CÑDÔDÑEÔEÀdÔK€HØ�sŠ?ˆ?ˆ?ˆ?ˆ?ˆ?r*   c                  ó�   — dD ]B} t          | dddd¬¦  «        }|                     t          j        ¦  «         |j        dk    sJ ‚ŒCd S )N©r/  rd   ri   rÈ   rŒ   rœ   ©r¹  r#   r"   r‹   r‰   r¨  )rQ   r2   rß   rà   râ   )r¹  Úmodels     r(   Útest_sgd_oneclass_convergencer;  Þ  sj   € ð ð !ð !ˆåØ˜C T¸È$ð
ñ 
ô 
ˆð 	�	Š	•$”)ÑÔÐð Œ}˜qÒ Ð Ð Ð Ð ð!ð !r*   zeta0, max_iter)rŒ   i'  )ga2U0*©3?i N  c                 ó¾  — dD �]Ø}t          ||d d| ¬¦  «        }t          d|d¬¦  «        }|                     t          j        ¦  «         |                     t          j        ¦  «         |                     t          j        ¦  «        }|                     t          j        ¦  «        }|                     t          j        ¦  «        }|                     t          j        ¦  «        }t          j        ||¦  «        d         }	t          j        ||¦  «        d         }
t          j        t          j	        |j
        |j         g¦  «        t          j	        |j
                             ¦   «         |j        g¦  «        ¦  «        d         }|dk                         ¦   «         t          |¦  «        z  }|	d	k    sJ ‚|
d
k    sJ ‚|d	k    sJ ‚t!          d|z
  |d¬¦  «         �ŒÚd S )Nr8  rœ   r9  Úlinearç�íµ ÷Æ°>©r)  r¹  r"   rq  ra   rn   ro   rs   ©Úatol)rQ   r   r2   rß   rà   r  r=   rt   r,  r¬  r‘   rÐ   Úflattenr“   rz  r  r   )r‰   r#   r¹  r:  Ú	model_refÚpredsÚdec_fnÚ	preds_refÚ
dec_fn_refÚdec_fn_corrÚ
preds_corrÚ	coef_corrÚ
share_oness                r(   Ú$test_sgd_oneclass_vs_linear_oneclassrL  ì  s¿  € ð ð 7ñ 7ˆåØ˜H¨$¸jÈtð
ñ 
ô 
ˆõ   x°B¸DÐAÑAÔAˆ	Ø�	Š	•$”)ÑÔÐØ�Š•d”iÑ Ô Ð à—’�dœiÑ(Ô(ˆØ×(Ò(­¬Ñ3Ô3ˆà×%Ò%¥d¤iÑ0Ô0ˆ	Ø×0Ò0µ´Ñ;Ô;ˆ
å”k &¨*Ñ5Ô5°dÔ;ˆÝ”[ ¨	Ñ2Ô2°4Ô8ˆ
å”KÝŒN˜EœK¨%¬-¨Ð8Ñ9Ô9ÝŒN˜IœO×3Ò3Ñ5Ô5°yÔ7KÐLÑMÔMñ
ô 
ð ôˆ	ð
 ˜q’j×%Ò%Ñ'Ô'­#¨e©*¬*Ñ4ˆ
à˜TÒ!Ð!Ð!Ð!Ø˜DÒ Ð Ð Ð Ø˜4ÒÐÐÐÝ˜˜J™¨°Ð6Ñ6Ô6Ð6Ñ6ð97ð 7r*   r¹  r/  ri   c                 ó:  — t           j        }t          ¦   «                              |¦  «        }t	          | ddddd¬¦  «        }t          d| d¬	¦  «        }|                     |¦  «         |                     |¦  «         t          |j        |j        d
¬¦  «         dS )zöTest that the `offset_` of `SGDOneClassSVM` is close to the `offset_`
    of `OneClassSVM` with `kernel="linear"`, given enough iterations and a
    suitable value for the `eta0` parameter, while also ensuring that the
    dataset is scaled.
    i@œ  Nr�   r>  r!   )r¹  r#   r"   r‹   r‰   r    r=  gñhãˆµøÔ>r?  gkN¹uÏµ>r@  )	rß   rà   r   rÛ  rQ   r   r2   r   rÐ   )r¹  r5   ÚX_scaledr:  rC  s        r(   Ú2test_sgd_oneclass_vs_linear_oneclass_offsets_matchrO    s¤   € õ 	Œ	€AÝÑÔ×-Ò-¨aÑ0Ô0€HÝØØØØØØðñ ô €Eõ  8°¸Ð=Ñ=Ô=€IØ	‡I‚IˆhÑÔÐØ‡M‚M�(ÑÔÐÝ�E”M 9Ô#4¸6ÐBÑBÔBÐBÐBÐBr*   c                  óè  — t          j        dddd¬¦  «        \  } }t          ddd dd	d
¬¦  «                             | |¦  «        }t          dddd
d ¬¦  «                             | |¦  «        }t	          |j        |j        ¦  «         t          ddd ddd
¬¦  «                             | |¦  «        }t          dddd
d ¬¦  «                             | |¦  «        }t	          |j        |j        ¦  «         d S )NrÝ   rÈ   r1  iÒ  )r9  r:  Ún_informativer    rŒ   r  r¨  g�Aòÿÿÿï?r!   )r{   r¹   r"   r#   r  r    r¸   )r{   r¹   r#   r    r"   g»½×Ùß|Û=rº   )r   Úmake_classificationrV   r2   r   r‘   )r5   r6   Úest_enÚest_l1Úest_l2s        r(   Útest_l1_ratiorV  %  s.  € åÔ'Ø 3°bÀtðñ ô �D€A€qõ
 ØØØØØØðñ ô ÷ 
‚cˆ!ˆQ�i„ið õ Ø˜T¨A¸BÀDðñ ô ç	‚cˆ!ˆQ�i„ið õ ˜fœl¨F¬LÑ9Ô9Ð9õ ØØØØØØðñ ô ÷ 
‚cˆ!ˆQ�i„ið õ Ø˜T¨A¸BÀDðñ ô ç	‚cˆ!ˆQ�i„ið õ ˜fœl¨F¬LÑ9Ô9Ð9Ð9Ð9r*   c                  ó  — t          j        d¬¦  «        5  t           j                             d¦  «        } d}d}|                      ||f¬¦  «        }|d d …d d…fxx         dz  cc<   t          j        |¦  «                             ¦   «         sJ ‚t          ¦   «                              |¦  «        }t          j        |¦  «                             ¦   «         sJ ‚|                      |¬¦  «        }t          j	        ||¦  «        d	k     
                    t           j        ¦  «        }t          t          j        |¦  «        dd
g¦  «         t          ddd¬¦  «        }|                     ||¦  «         t          j        |j        ¦  «                             ¦   «         sJ ‚d}t#          j        t&          |¬¦  «        5  |                     ||¦  «         d d d ¦  «         n# 1 swxY w Y   d d d ¦  «         d S # 1 swxY w Y   d S )NÚraise©r{  r   rÈ   rè   r2  rb   gœu ˆ<ä7~rp   ra   r/  r±   r&  )r{   r°   r#   zwFloating-point under-/overflow occurred at epoch #.* Scaling input data with StandardScaler or MinMaxScaler might help.r  )rt   rx  rë   rì   r6  Úisfiniter{  r   rÛ  rx   ÚastypeÚint32r   rÏ   rV   r2   r‘   r¨   r©   rª   )	r;  r9  r:  r5   rN  Úground_truthr6   r:  Ú	msg_regxps	            r(   Útest_underflow_or_overflowr_  H  sZ  € Ý	Œ˜Ð	!Ñ	!Ô	!ð "ð "åŒi×#Ò# AÑ&Ô&ˆØˆ	Øˆ
à�JŠJ˜Y¨
Ð3ˆJÑ4Ô4ˆØ	ˆ!ˆ!ˆ!ˆRˆaˆRˆ%ˆˆŒ�EÑˆˆ‰ÝŒ{˜1‰~Œ~×!Ò!Ñ#Ô#Ð#Ð#Ð#õ
  ‘>”>×/Ò/°Ñ2Ô2ˆÝŒ{˜8Ñ$Ô$×(Ò(Ñ*Ô*Ð*Ð*Ð*ð —z’z z�zÑ2Ô2ˆÝŒV�H˜lÑ+Ô+¨cÒ1×9Ò9½"¼(ÑCÔCˆÝ�2œ9 Q™<œ<¨!¨Q¨Ñ0Ô0Ð0å C¨oÈÐLÑLÔLˆð 	�	Š	�(˜AÑÔÐÝŒ{˜5œ;Ñ'Ô'×+Ò+Ñ-Ô-Ð-Ð-Ð-ðð 	õ
 Œ]�:¨YÐ7Ñ7Ô7ð 	ð 	Ø�IŠI�a˜‰OŒOˆOð	ð 	ð 	ñ 	ô 	ð 	ð 	ð 	ð 	ð 	ð 	øøøð 	ð 	ð 	ð 	ðC"ð "ð "ñ "ô "ð "ð "ð "ð "ð "ð "ð "øøøð "ð "ð "ð "ð "ð "s6   –F%G6Æ;GÇG6ÇG"	Ç"G6Ç%G"	Ç&G6Ç6G:Ç=G:c                  ó>  — t          ddddddddd ¬	¦	  «	        } t          j        d
¬¦  «        5  |                      t          j        t          j        ¦  «         d d d ¦  «         n# 1 swxY w Y   t          j        | j        ¦  «         	                    ¦   «         sJ ‚d S )Nr±   rè   Tr  ru  rs   rŒ   r   )	r°   r#   rŠ   r¹   r  r{   r‰   r    r"   rX  rY  )
rV   rt   rx  r2   rß   rà   rá   rZ  r‘   r{  )r:  s    r(   Ú'test_numerical_stability_large_gradientra  n  sß   € õ ØØØØØØØØØð
ñ 
ô 
€Eõ 
Œ˜Ð	!Ñ	!Ô	!ð *ð *Ø�	Š	•$”)�Tœ[Ñ)Ô)Ð)ð*ð *ð *ñ *ô *ð *ð *ð *ð *ð *ð *øøøð *ð *ð *ð *åŒ;�u”{Ñ#Ô#×'Ò'Ñ)Ô)Ð)Ð)Ð)Ð)Ð)s   ®+A%Á%A)Á,A)r¹   )rº   r¸   r  c           	      ó8  — t          ddd| dd d¬¦  «        }t          j        d¬¦  «        5  |                     t          j        t          j        ¦  «         d d d ¦  «         n# 1 swxY w Y   t          |j        t          j	        |j        ¦  «        ¦  «         d S )	Ng     jø@rœ   r/  Fr¨  )r{   r‹   r‰   r¹   rŠ   r"   r#   rX  rY  )
rV   rt   rx  r2   rß   rà   rá   r   r‘   Ú
zeros_like)r¹   r:  s     r(   Útest_large_regularizationrd  �  sÓ   € õ ØØ ØØØØØðñ ô €Eõ 
Œ˜Ð	!Ñ	!Ô	!ð *ð *Ø�	Š	•$”)�Tœ[Ñ)Ô)Ð)ð*ð *ð *ñ *ô *ð *ð *ð *ð *ð *ð *øøøð *ð *ð *ð *å˜eœk­2¬=¸¼Ñ+EÔ+EÑFÔFÐFÐFÐFs   ¬+A#Á#A'Á*A'c                  óÔ  — t          ¦   «                              t          j        ¦  «        } t          j        dk    }d}t          d d|¬¦  «        }|                     | |¦  «         ||j        k    sJ ‚d}t          dd|¬¦  «        }|                     | |¦  «         ||j        k    sJ ‚|j        dk    sJ ‚t          dd|¬¦  «        }|                     | |¦  «         |j        |j        k    sJ ‚|j        dk    sJ ‚t          dd	d¬
¦  «        }d}t          j	        t          |¬¦  «        5  |                     | |¦  «         d d d ¦  «         n# 1 swxY w Y   |j        dk    sJ ‚d S )Nra   r!   r   )r"   r    r#   r†  r$   r/  rc   rŒ   )r#   r"   r    zhMaximum number of iteration reached before convergence. Consider increasing max_iter to improve the fit.r  )r   rÛ  rß   rà   rá   rV   r2   râ   r¨   r  r   )r5   r6   r#   Úmodel_0Úmodel_1Úmodel_2Úmodel_3Úwarning_messages           r(   Útest_tol_parameterrk  “  sÌ  € åÑÔ×&Ò&¥t¤yÑ1Ô1€AÝŒ�qÒ€Að €HÝ °1¸xÐHÑHÔH€GØ‡K‚K��1ÑÔÐØ�w”Ò&Ð&Ð&Ð&ð €HÝ °¸HÐEÑEÔE€GØ‡K‚K��1ÑÔÐØ�g”oÒ%Ð%Ð%Ð%ØŒ?˜QÒÐÐÐõ  °!¸hÐGÑGÔG€GØ‡K‚K��1ÑÔÐØŒ?˜Wœ_Ò,Ð,Ð,Ð,ØŒ?˜QÒÐÐÐõ  Q¨D¸qÐAÑAÔA€Gð	ð õ
 
ŒÕ(°Ð	@Ñ	@Ô	@ð ð Ø�Š�A�qÑÔÐðð ð ñ ô ð ð ð ð ð ð øøøð ð ð ð àŒ?˜aÒÐÐÐÐÐs   Ä-EÅEÅEc                 óª   — |D ]O\  }}}}t          |                      ||¦  «        |¦  «         t          |                      ||¦  «        |¦  «         ŒPd S r.   )r   Úpy_lossÚpy_dloss)Úloss_functionÚcasesr…   r6   Úexpected_lossÚexpected_dlosss         r(   Ú_test_loss_commonrs  ·  sm   € ð 05ð Jð JÑ+ˆˆ1ˆm˜^Ý˜M×1Ò1°!°QÑ7Ô7¸ÑGÔGÐGÝ˜M×2Ò2°1°aÑ8Ô8¸.ÑIÔIÐIÐIðJð Jr*   c                  ó¦   — t          j        d¦  «        } g d¢}t          | |¦  «         t          j        d¦  «        } g d¢}t          | |¦  «         d S )Nrr   ))gš™™™™™ñ?rr   rp   rp   ©ç       ÀrÖ   rp   rp   )rr   rr   rp   rÖ   )rÖ   rÖ   rp   rr   )rd   rr   rd   rÖ   )r0  rÖ   ç      @rr   )re   rÖ   rd   rr   )rp   rr   ra   rÖ   rp   )©rr   rr   rp   rp   )rt  rÖ   rp   rp   )rp   rr   rp   rÖ   )rp   rÖ   rp   rr   )rd   rÖ   rd   rr   )r0  rÖ   r0  rr   )re   rr   rd   rÖ   )rÖ   rr   rr   rÖ   )Úsgd_fastÚHingers  ©r°   rp  s     r(   Útest_loss_hinger|  ¿  sp   € õ Œ>˜#ÑÔ€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"õ Œ>˜#ÑÔ€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r*   c                  óV   — t          j        d¦  «        } g d¢}t          | |¦  «         d S )Nrr   )rx  ru  )rr   rÖ   ç      @r~  ©rÖ   rr   r~  ç      À)rd   rr   g      Ð?rÖ   ©rd   rÖ   g      @rw  )ry  ÚSquaredHingers  r{  s     r(   Útest_gradient_squared_hingerƒ  à  s;   € åÔ  Ñ%Ô%€Dðð ð €Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r*   c                  óT   — t          j        ¦   «         } g d¢}t          | |¦  «         d S )N)rx  )rÖ   rÖ   rp   rp   )r0  rr   rp   rp   )rp   rr   rr   rv  r  r�  )rv  rr   é   r€  )g      Àrr   é   r€  )ry  ÚModifiedHuberrs  r{  s     r(   Útest_loss_modified_huberrˆ  ï  s9   € åÔ!Ñ#Ô#€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r*   c                  óV   — t          j        d¦  «        } g d¢}t          | |¦  «         d S )Nr/  )©rp   rp   rp   rp   ©r/  rp   rp   rp   ©gffffff Àrv  rp   rp   ©gffffff@rw  rp   rp   )çš™™™™™@r0  r/  rr   )r0  rÖ   ç333333@rr   )r0  rŽ  r/  rÖ   )rv  rr   r�  rÖ   )ry  ÚEpsilonInsensitivers  r{  s     r(   Útest_loss_epsilon_insensitiver‘     s;   € åÔ& sÑ+Ô+€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r*   c                  óV   — t          j        d¦  «        } g d¢}t          | |¦  «         d S )Nr/  )rŠ  r‹  rŒ  r�  )rŽ  r0  rs   rv  )r0  rÖ   çR¸…ëÑ @g333333@)r0  rŽ  rs   gš™™™™™É¿)rv  rr   r“  g333333À)ry  ÚSquaredEpsilonInsensitivers  r{  s     r(   Ú%test_loss_squared_epsilon_insensitiver•    s;   € åÔ-¨cÑ2Ô2€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r*   c            	      ó4  — t          ddddddd¬¦  «        } |                      t          j        t          j        ¦  «         | j        | j        k    sJ ‚| j        | j        dz   k     sJ ‚|                      t          j        t          j        ¦  «        d	k    sJ ‚d S )
NrŒ   rÝ   TrÈ   r   rb   )r{   r"   r#   rÞ   r÷   r    r^  r1  rj   )rV   r2   rß   rà   rá   râ   r÷   rì  )r˜   s    r(   Ú0test_multi_thread_multi_class_and_early_stoppingr—  "  s¡   € õ ØØØØØØØðñ ô €Cð ‡G‚G�DŒI•t”{Ñ#Ô#Ð#ØŒ;˜Ô-Ò-Ð-Ð-Ð-ØŒ;˜Ô-°Ñ2Ò2Ð2Ð2Ð2Ø�9Š9•T”Y¥¤Ñ,Ô,¨sÒ2Ð2Ð2Ð2Ð2Ð2r*   c                  óø   — t          j        ddd¦  «        g d¢dœ} t          dddd	¬
¦  «        }t          || ddd	¬¦  «        }|                     t
          j        t
          j        ¦  «         |j        dk    sJ ‚d S )Néüÿÿÿr‡  rB  )r$   rè   rù  )r{   r÷   rs   rÝ   Tr   )r"   r#   rÞ   r    r$   rb   )Ún_iterr^  r    rj   )	rt   ÚlogspacerV   r   r2   rß   rà   rá   Úbest_score_)Ú
param_gridr˜   Úsearchs      r(   Ú-test_multi_core_gridsearch_and_early_stoppingrŸ  4  sŒ   € õ
 ”˜R  AÑ&Ô&Ø'˜K˜Kðð €Jõ
 ˜D¨4ÀÐSTÐ
UÑ
UÔ
U€CÝ  Z¸À!ÐRSÐTÑTÔT€FØ
‡J‚J�tŒy�$œ+Ñ&Ô&Ð&ØÔ Ò#Ð#Ð#Ð#Ð#Ð#r*   Úbackend)ÚlokyÚmultiprocessingÚ	threadingc                 óÄ  — t           j                             d¦  «        }t          ddd|¬¦  «        }|                     dd¦  «        }t          dd	d¬
¦  «        }|                     ||¦  «         t          ddd¬
¦  «        }t          j        | ¬¦  «        5  |                     ||¦  «         d d d ¦  «         n# 1 swxY w Y   t          |j
        |j
        ¦  «         d S )Nr!   )r&  r†  g{®Gáz”?Úcsr)Údensityrg  r;  r1  r&  rÝ   ra   )r#   r^  r    r‡  )r   )rt   rë   rì   r   ÚchoicerV   r2   ÚjoblibÚparallel_backendr   r‘   )r   r    r5   r6   Úclf_sequentialÚclf_parallels         r(   Ú'test_SGDClassifier_fit_for_all_backendsr¬  C  s#  € õ  ”9×(Ò(¨Ñ,Ô,€Lõ
 	˜[°$¸uÈ,ÐWÑWÔW€AØ×Ò˜B Ñ$Ô$€Aõ #¨D¸ÈÐLÑLÔL€NØ×Ò�q˜!ÑÔÐõ !¨$°qÀrÐJÑJÔJ€LÝ	Ô	 ¨Ð	1Ñ	1Ô	1ð ð Ø×Ò˜˜AÑÔÐðð ð ñ ô ð ð ð ð ð ð øøøð ð ð ð å˜nÔ2°LÔ4FÑGÔGÐGÐGÐGs   ÂB;Â;B?ÃB?c                 óv  — | t           j        k    rt          j        |¬¦  «        \  }}nt          j        |¬¦  «        \  }} | |d¬¦  «        }t          j        t          ¦  «        5  |                     ||¦  «        j	        }|j
        dk    sJ ‚	 d d d ¦  «         n# 1 swxY w Y    | |d¬¦  «        }t          j        t          ¦  «        5  |                     ||¦  «        j	        }|j
        dk    sJ ‚	 d d d ¦  «         n# 1 swxY w Y   t          ||¦  «          | |dz   d¬¦  «        }t          j        t          ¦  «        5  |                     ||¦  «        j	        }|j
        dk    sJ ‚	 d d d ¦  «         n# 1 swxY w Y   t          j        ||z
  ¦  «                             ¦   «         dk    sJ ‚d S )N)r    ra   )r    r#   rr   )r   rH   r   Úmake_regressionrR  r¨   r  r   r2   r‘   râ   r   rt   Úabsr  )r  Úglobal_random_seedr5   r6   r¯   Úcoef_same_seed_aÚcoef_same_seed_bÚcoef_other_seeds           r(   Útest_sgd_random_stater´  g  s‰  € ð •LÔ-Ò-Ð-ÝÔ'Ð5GÐHÑHÔH‰ˆˆ1ˆ1åÔ+Ð9KÐLÑLÔL‰ˆˆ1ð
 ˆ)Ð!3¸aÐ
@Ñ
@Ô
@€CÝ	ŒÕ(Ñ	)Ô	)ð  ð  ØŸ7š7 1 a™=œ=Ô.ÐØŒ{˜aÒÐÐÐÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  ð ˆ)Ð!3¸aÐ
@Ñ
@Ô
@€CÝ	ŒÕ(Ñ	)Ô	)ð  ð  ØŸ7š7 1 a™=œ=Ô.ÐØŒ{˜aÒÐÐÐÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  õ Ð$Ð&6Ñ7Ô7Ð7ð ˆ)Ð!3°aÑ!7À!Ð
DÑ
DÔ
D€CÝ	ŒÕ(Ñ	)Ô	)ð  ð  ØŸ'š' ! Q™-œ-Ô-ˆØŒ{˜aÒÐÐÐÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  õ Œ6Ð" _Ñ4Ñ5Ô5×9Ò9Ñ;Ô;¸cÒAÐAÐAÐAÐAÐAs6   Á()BÂB"Â%B"Ã)DÄD	ÄD	Å	)E?Å?FÆFc                 óØ  — t           j        t           j        }}|j        d         }d}t	          j        ddd|¬¦  «        }t          t          j        ¬¦  «        }|  	                    t          d|¦  «         | 
                    ||¦  «         |j        d         d	d
…         \  }}|j        d         t          ||z  ¦  «        k    sJ ‚|j        d         t          ||z  ¦  «        k    sJ ‚dS )ziTest that data passed to validation callback correctly subsets.

    Non-regression test for #23255.
    r   rv  TrŒ   rÝ   )rÞ   r"   r#   ré   )Úside_effectÚ_ValidationScoreCallbackra   rc   N)rß   rà   rá   rv   r   rV   r   r   r·  Úsetattrr2   Ú	call_argsrã  )	Úmonkeypatchr5   r–   r9  ré   r˜   ÚmockÚX_valÚy_vals	            r(   Ú&test_validation_mask_correctly_subsetsr¾  �  sï   € õ
 Œ9•d”k€q€AØ”˜”
€IØÐÝ
Ô
$ØØØØ/ð	ñ ô €Cõ Õ0ÔIÐJÑJÔJ€DØ×ÒÕ,Ð.HÈ$ÑOÔOÐOØ‡G‚GˆAˆq�M„M€Mà”> !Ô$ Q q SÔ)�L€Eˆ5ØŒ;�qŒ>�S Ð-@Ñ!@ÑAÔAÒAÐAÐAÐAØŒ;�qŒ>�S Ð-@Ñ!@ÑAÔAÒAÐAÐAÐAÐAÐAr*   c                  ó,  — t           j        t           j        }} t          j        |¦  «        }d}t          j        d|d¬¦  «        }d}t          j        t          |¬¦  «        5  | 
                    | ||¬¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nrç   Tr   )rÞ   ré   r    z\The sample weights for validation set are all zero, consider using a different random state.r  r   )rß   rà   rá   rt   rc  r   rV   r¨   r©   rª   r2   )r5   r–   r¡  ré   r˜   Úerror_messages         r(   Ú(test_sgd_error_on_zero_validation_weightrÁ  ¥  sã   € õ Œ9•d”k€q€AÝ”M !Ñ$Ô$€MØÐå
Ô
$ØÐ1DÐSTðñ ô €Cð
	#ð õ 
Œ•z¨Ð	7Ñ	7Ô	7ð 3ð 3Ø�Š��1 MˆÑ2Ô2Ð2ð3ð 3ð 3ñ 3ô 3ð 3ð 3ð 3ð 3ð 3ð 3ð 3øøøð 3ð 3ð 3ð 3ð 3ð 3s   Á#B	Â	BÂBc                 óZ   —  | d¬¦  «                              t          t          ¦  «         dS )z!non-regression test for gh #25249ra   )ÚverboseN)r2   r5   r–   )r  s    r(   Útest_sgd_verboserÄ  ¸  s-   € ð €I�aÐÑÔ×Ò�Q¥Ñ"Ô"Ð"Ð"Ð"r*   ÚSGDEstimatorÚ	data_typec                 óÔ   — t                                |¦  «        }t          j        t          |¬¦  «        } | ¦   «         }|                     ||¦  «         |j        j        |k    sJ ‚d S )N©Údtype)r5   r[  rt   r¥   r–   r2   r‘   rÉ  )rÅ  rÆ  Ú_XÚ_YÚ	sgd_models        r(   Útest_sgd_dtype_matchrÍ  ¾  sd   € õ 
�Š�)Ñ	Ô	€BÝ	Œ•!˜9Ð	%Ñ	%Ô	%€BØ�‘”€IØ‡M‚M�"�bÑÔÐØŒ?Ô  IÒ-Ð-Ð-Ð-Ð-Ð-r*   c                 óî  — t                                t          j        ¬¦  «        }t          j        t
          t          j        ¬¦  «        }t                                t          j        ¬¦  «        }t          j        t
          t          j        ¬¦  «        } | dd¬¦  «        }|                     ||¦  «          | dd¬¦  «        }|                     ||¦  «         t          |j	        |j	        ¦  «         d S )NrÈ  é   F)r#   rŠ   )
r5   r[  rt   Úfloat64r¥   r–   Úfloat32r2   r   r‘   )rÅ  ÚX_64ÚY_64ÚX_32ÚY_32Úsgd_64Úsgd_32s          r(   Útest_sgd_numerical_consistencyrØ  Ò  sÄ   € õ �8Š8�"œ*ˆ8Ñ%Ô%€DÝŒ8•A�RœZÐ(Ñ(Ô(€Då�8Š8�"œ*ˆ8Ñ%Ô%€DÝŒ8•A�RœZÐ(Ñ(Ô(€Dàˆ\ 2¨uÐ5Ñ5Ô5€FØ
‡J‚Jˆt�TÑÔÐàˆ\ 2¨uÐ5Ñ5Ô5€FØ
‡J‚Jˆt�TÑÔÐå�F”L &¤,Ñ/Ô/Ð/Ð/Ð/r*   c                  óV   — t          ¦   «         } t          | ¦  «        j        dk    sJ ‚dS )z}Check that SGDOneClassSVM has the correct estimator type.

    Non-regression test for if the mixin was not on the left.
    Úoutlier_detectorN)rQ   r   Úestimator_type)Ú	sgd_ocsvms    r(   Ú%test_sgd_one_class_svm_estimator_typerÝ  í  s2   € õ
 Ñ Ô €IÝ�IÑÔÔ-Ð1CÒCÐCÐCÐCÐCÐCr*   c                  óÒ  ‡— d} dŠd\  }}d}ˆfd„}t          |||¬¦  «        \  }}t          j        ||j        ¬¦  «        }t          j        |dz   ¦  «        }t          ||d	||| fd
di¬¦  «        }	|	j        }
|
dd…         }d|
d         z
  }t          | dddd|¬¦  «        }|                     ||¦  «         t          |j
        |d¬¦  «         t          |j        |d¬¦  «         dS )zBTest that SGDOneClassSVM minimizes the correct objective function.rd   rr   )i,  rc   r!   c                 óÆ   •— | d d…         }| d         }||z  |z   }||z  }t          j        t          j        ‰|z
  d¦  «        ¦  «        }d|z  |z  |z  }	||	z   ||z  z   }
|
S )Nr`   rp   rd   )rt   r  Úmaximum)r  r5   r6   r{   r~   r€   r…   ÚzÚavg_lossÚregÚobjÚhinge_thresholds              €r(   Ú	objectivezItest_sgd_one_class_svm_formulation_with_scipy_minimize.<locals>.objectiveý  s{   ø€ Ø�C�R�C”&ˆØ�b”Eˆ	Ø�‰K˜)Ñ#ˆØ�‰EˆÝ”7�2œ: o¸Ñ&9¸3Ñ?Ô?Ñ@Ô@ˆØ�E‰k˜GÑ# gÑ-ˆØ˜‰n˜y¨5Ñ0Ñ0ˆØˆ
r*   )r9  r:  r    rÈ  ra   zNelder-MeadÚmaxiterrÝ   )Úmethodr7   ÚoptionsNr`   rœ   i   rÕ   )r¹  r‹   r#   r"   r‰   r    g{®Gázt?)Úrtolrs   )r
   rt   rD  rÉ  ru   r   r‚  rQ   r2   r   r‘   rÐ   )r¹  r9  r:  Úrandom_seedræ  r5   rÒ   r6   Úw0Úscipy_outputÚw_outÚexpected_coefÚexpected_offsetr:  rå  s                 @r(   Ú6test_sgd_one_class_svm_formulation_with_scipy_minimizerñ  ö  sA  ø€ à	€BØ€OØ"Ñ€IˆzØ€Kðð ð ð ð õ ØØØ ðñ ô �D€A€qõ
 	Œ�	 ¤Ð)Ñ)Ô)€AÝ	Œ�*˜q‘.Ñ	!Ô	!€BÝØØ
ØØ��BˆZØ˜DÐ!ðñ ô €Lð ŒN€EØ˜#˜2˜#”J€MØ˜% œ)‘m€OåØØ ØØØØ ðñ ô €Eð 
‡I‚Iˆa��O„O€Oå�E”K °TÐ:Ñ:Ô:Ð:Ý�E”M ?¸Ð>Ñ>Ô>Ð>Ð>Ð>r*   )Nrp   )¹r�  r  Úunittest.mockr   r¨  Únumpyrt   r¨   Úscipy.sparseÚsparser/   Úscipy.optimizer   Úsklearnr   r   r   Úsklearn.baser   r	   Úsklearn.datasetsr
   Úsklearn.exceptionsr   Úsklearn.kernel_approximationr   Úsklearn.linear_modelr   ry  r   Úsklearn.model_selectionr   r   r   Úsklearn.pipeliner   Úsklearn.preprocessingr   r   r   r   Úsklearn.svmr   Úsklearn.utilsr   Úsklearn.utils._sparser   Úsklearn.utils._testingr   r   r   r   Úsklearn.utils.fixesr   r)   rV   r,   rH   rF   rQ   rO   rZ   r\   r^   r¥   r5   r–   r  r  rC  rO  rP  rQ  rþ   rÿ   rˆ  rŠ  Ú	load_irisrß   r+  r,  Útrue_result5r‡   r›   ÚmarkÚparametrizer¢   r¬   rµ   r¼   rÅ   rÓ   rÚ   rã   rå   rô   rü   r   r  r	  r  r  r!  ru   r&  r)  r-  r<  r?  rE  rJ  rT  rZ  r\  r_  rb  ro  rƒ  Úno_check_spmatrixr’  r˜  rœ  rž  r¦  r´  r·  rº  r¼  rÂ  rÄ  rÆ  rÈ  rÏ  rÔ  rÖ  rÜ  rÞ  rá  rä  ræ  rñ  rõ  r÷  rþ  r   r  r  r	  r  r  r  r  r  r  r   r"  r$  r6  r;  rL  rO  rV  r_  ra  rd  rk  rs  r|  rƒ  rˆ  r‘  r•  r—  rŸ  r¬  r´  r¾  rÁ  rÄ  rÑ  rÐ  rÍ  rØ  rÝ  rñ  r%   r*   r(   ú<module>r
     s“  ðØ €€€Ø €€€Ø Ð Ð Ð Ð Ð à €€€Ø Ð Ð Ð Ø €€€Ø Ð Ð Ð Ð Ð Ø #Ð #Ð #Ð #Ð #Ð #à 3Ð 3Ð 3Ð 3Ð 3Ð 3Ð 3Ð 3Ð 3Ð 3Ø -Ð -Ð -Ð -Ð -Ð -Ð -Ð -Ø 'Ð 'Ð 'Ð 'Ð 'Ð 'Ø 1Ð 1Ð 1Ð 1Ð 1Ð 1Ø 1Ð 1Ð 1Ð 1Ð 1Ð 1Ø 6Ð 6Ð 6Ð 6Ð 6Ð 6Ø 5Ð 5Ð 5Ð 5Ð 5Ð 5ðð ð ð ð ð ð ð ð ð ð
 +Ð *Ð *Ð *Ð *Ð *Ø SÐ SÐ SÐ SÐ SÐ SÐ SÐ SÐ SÐ SÐ SÐ SØ #Ð #Ð #Ð #Ð #Ð #Ø "Ð "Ð "Ð "Ð "Ð "Ø 6Ð 6Ð 6Ð 6Ð 6Ð 6ðð ð ð ð ð ð ð ð ð ð ð ð 5Ð 4Ð 4Ð 4Ð 4Ð 4ðð ð ð(ð (ð (ð (ð (˜<Ô5ñ (ô (ð (ð$
ð 
ð 
ð 
ð 
˜,Ô3ñ 
ô 
ð 
ð Sð Sð Sð Sð S˜LÔ7ñ Sô Sð Sð0ð 0ð 0ð
/ð /ð /ð
1ð 1ð 1ð
*ð *ð *ð
)ð )ð )ð
+ð +ð +ð €B„Hˆr�2ˆh˜˜R˜ 2 r (¨Q°¨F°Q¸°F¸QÀ¸FÐCÑDÔD€ØÐÐ€Ø€B„Hˆr�2ˆh˜˜A˜  A Ð'Ñ(Ô(€Øˆiˆi€ð €R„Xà	ˆQˆØ	�ˆØ	ˆsˆØ	
ˆAˆØ	ˆsˆØ	ˆcˆ
Ø	ˆRˆØ	
ˆDˆ	Ø	
ˆBˆð
ñô €ð €Wˆq�[�E�7˜Q‘;Ñ ' ¨Q¡Ñ.€Ø€R„X��cˆ{˜Q ˜F Q¨ GÐ,Ñ-Ô-€Ø&Ð&Ð&€ð €R„XàÐÐØÐÐØÐÐØÐÐØÐÐØÐÐØÐÐØÐÐð	ñô €ð €R„XÐ&Ð&Ð&Ñ'Ô'€ð €R„XàÐÐØ Ð Ð Ø Ð Ð Ø Ð Ð Ø Ð Ð Ø Ð Ð Ø Ð Ð ØÐÐð	ñô €ð €R„XÐ&Ð&Ð&Ñ'Ô'€à€xÔÑÔ€ð €R„X��Bˆx˜"˜b˜ B¨ 8¨a°¨V°a¸°V¸aÀ¸VÐDÑEÔE€ØÐÐ€Øˆyˆy€ð.ð .ð .ð .ðD6ð 6ð 6ð0 „×ÒØˆmÐ0°,Ð@RÐSñô ð „×Ò˜ÐPÐPÐPÑQÔQð&ð &ñ RÔQñô ð&ð „×ÒØˆmÐ0°,Ð@RÐSñô ðð ñô ðð „×Ò˜  u˜~Ñ.Ô.Ø„×ÒØ
ˆF€O�} oÐ6¸ÀÐ8WÐXñô ðð ñô ñ /Ô.ðð „×ÒØˆmÐ0°,Ð@RÐSñô ð
.ð 
.ñô ð
.ð „×ÒØàØØØØØðñ
ô 
ð.ð .ñ
ô 
ð.ð$ „×ÒØàØØØØØðñ
ô 
ð4ð 4ñ
ô 
ð4ð$ „×ÒØˆmÐ0°,Ð@RÐSñô ð(Hð (Hñô ð(HðV „×ÒØˆmÐ0°,Ð@RÐSñô ð&ð &ñô ð&ð „×ÒØˆmÐ0°,Ð@RÐSñô ð'ð 'ñô ð'ð „×ÒØˆmÐ0°,Ð@RÐSñô ð&/ð &/ñô ð&/ðR „×ÒØˆmÐ0°,Ð@RÐSñô ð=ð =ñô ð=ð$ „×ÒØˆmÐ0°,Ð@RÐSñô ðð ñô ðð „×Ò˜ }°lÐ&CÑDÔDØ„×Ò˜ [ [ [Ñ1Ô1ð,ð ,ñ 2Ô1ñ EÔDð,ð „×ÒØ�-Ð!4°lÐDVÐWñô ðð ñô ðð „×ÒØàØØØØØðñ
ô 
ðð ñ
ô 
ðð* „×Ò˜ =Ð2EÐ"FÑGÔGð8ð 8ñ HÔGð8ð" „×ÒØˆmÐ0°.ÐBVÐWñô ð4ð 4ñô ð4ð „×ÒØà	Ð)¨8¨2¬8°D©>¬>Ð:Ð;Ø	Ð/°°´¸$±´Ð@ÐAØ	˜-¨¨¬°$©¬Ð8Ð9Ø	 ¨x¨r¬x¸©~¬~Ð>Ð?ð	ñô ð.ð .ñô ð.ð „×ÒØˆmÐ0°,Ð@RÐSñô ð5ð 5ñô ð5ð „×ÒØà	Ð)¨1Ð-Ð.Ø	Ð/°Ð3Ð4Ø	˜-¨Ð+Ð,Ø	 ¨qÐ1Ð2ð	ñô ð&ð &ñô ð&ð „×Ò˜ =Ð2EÐ"FÑGÔGðGð Gñ HÔGðGðB „×Ò˜ =Ð2EÐ"FÑGÔGð5ð 5ñ HÔGð5ð „×Ò˜ =Ð2EÐ"FÑGÔGð ð  ñ HÔGð ð „×Ò˜ =Ð2EÐ"FÑGÔGðOð Oñ HÔGðOð  „×Ò˜ =Ð2EÐ"FÑGÔGð+ð +ñ HÔGð+ð „×Ò˜ =Ð2EÐ"FÑGÔGðNð Nñ HÔGðNð6 „×Ò˜ =Ð2EÐ"FÑGÔGð+ð +ñ HÔGð+ð „×Ò˜ =Ð2EÐ"FÑGÔGð+ð +ñ HÔGð+ð „×Ò˜ =Ð2EÐ"FÑGÔGð=ð =ñ HÔGð=ð( „×Ò˜ =Ð2EÐ"FÑGÔGð?ð ?ñ HÔGð?ðB „×Ò˜ =Ð2EÐ"FÑGÔGðD7ð D7ñ HÔGðD7ðN „ÔØ„×Ò˜ =Ð2EÐ"FÑGÔGð! ð ! ñ HÔGñ Ôð! ðH „×Ò˜ =Ð2EÐ"FÑGÔGðCð Cñ HÔGðCð$ „×Ò˜ =Ð2EÐ"FÑGÔGðBð Bñ HÔGðBð  „×Ò˜ =Ð2EÐ"FÑGÔGðð ñ HÔGðð „×Ò˜ =Ð2EÐ"FÑGÔGð0ð 0ñ HÔGð0ð$ „×Ò˜ =Ð2EÐ"FÑGÔGð+Bð +Bñ HÔGð+Bð\ „×Ò˜ =Ð2EÐ"FÑGÔGðCð Cñ HÔGðCð" „×ÒØˆmÐ0°.ÐBVÐWñô ð2ð 2ñô ð2ð „×Ò˜ =Ð2EÐ"FÑGÔGð ð  ñ HÔGð ð „×Ò˜ =Ð2EÐ"FÑGÔGð,ð ,ñ HÔGð,ð( „×Ò˜ =Ð2EÐ"FÑGÔGðð ñ HÔGðð" „×Ò˜ =Ð2EÐ"FÑGÔGð(ð (ñ HÔGð(ð „×Ò˜ =Ð2EÐ"FÑGÔGðð ñ HÔGðð „×Ò˜ =Ð2EÐ"FÑGÔGØ„×Ò˜ÐPÐPÐPÑQÔQð>ð >ñ RÔQñ HÔGð>ð" „×Ò˜ =Ð2EÐ"FÑGÔGð"/ð "/ñ HÔGð"/ðJ „×Ò˜ =Ð2EÐ"FÑGÔGð/ð /ñ HÔGð/ð „×Ò˜ =Ð2EÐ"FÑGÔGðð ñ HÔGðð „×Ò˜ <Ð1CÐ"DÑEÔEð(ð (ñ FÔEð(ð „×Ò˜ <Ð1CÐ"DÑEÔEðGð Gñ FÔEðGð@ „×Ò˜ <Ð1CÐ"DÑEÔEðJð Jñ FÔEðJð@ „×Ò˜ <Ð1CÐ"DÑEÔEðGð Gñ FÔEðGð4 „×Ò˜ <Ð1CÐ"DÑEÔEðð ñ FÔEðð. „×Ò˜ <Ð1CÐ"DÑEÔEð ð  ñ FÔEð ðF „×Ò˜ <Ð1CÐ"DÑEÔEðð ñ FÔEðð. „×Ò˜ <Ð1CÐ"DÑEÔEðQð Qñ FÔEðQðB „×Ò˜ <Ð1CÐ"DÑEÔEðð ñ FÔEðð  „×Ò˜ <Ð1CÐ"DÑEÔEØ„×Ò˜ÐPÐPÐPÑQÔQð:ð :ñ RÔQñ FÔEð:ð „×Ò˜ <Ð1CÐ"DÑEÔEð1ð 1ñ FÔEð1ð#/ð #/ð #/ð #/ðL „×Ò˜ >Ð3GÐ"HÑIÔIð,ð ,ñ JÔIð,ð, „×Ò˜ >Ð3GÐ"HÑIÔIØ„×Ò˜ÐPÐPÐPÑQÔQð,ð ,ñ RÔQñ JÔIð,ð „×Ò˜ >Ð3GÐ"HÑIÔIð
.ð 
.ñ JÔIð
.ð „×Ò˜ >Ð3GÐ"HÑIÔIð!ð !ñ JÔIð!ð& „×Ò˜ >Ð3GÐ"HÑIÔIØ„×Ò˜ÐPÐPÐPÑQÔQð)ð )ñ RÔQñ JÔIð)ð& „×Ò˜ >Ð3GÐ"HÑIÔIð2ð 2ñ JÔIð2ð@ „×Ò˜ >Ð3GÐ"HÑIÔIð1ð 1ñ JÔIð1ð4 „×Ò˜ >Ð3GÐ"HÑIÔIð1ð 1ñ JÔIð1ð6 „×Ò˜ >Ð3GÐ"HÑIÔIð1ð 1ñ JÔIð1ð0&ð &ð &ðR!ð !ð !ð „×ÒÐ)¨M¸=Ð+IÑJÔJð7ð 7ñ KÔJð7ðB „×Ò˜  S˜zÑ*Ô*ðCð Cñ +Ô*ðCð, :ð  :ð  :ðF#ð #ð #ðL*ð *ð *ð& „×Ò˜Ð$>Ð$>Ð$>Ñ?Ô?ðGð Gñ @Ô?ðGð"! ð ! ð ! ðHJð Jð Jð#ð #ð #ðB#ð #ð #ð#ð #ð #ð"#ð #ð #ð"#ð #ð #ð"3ð 3ð 3ð$$ð $ð $ð „×Ò˜Ð$LÐ$LÐ$LÑMÔMð Hð  Hñ NÔMð HðF „×ÒØ�,Ô,¨lÔ.GÐHñô ð Bð  Bñô ð BðFBð Bð Bð03ð 3ð 3ð& „×Ò˜ }°lÐ&CÑDÔDð#ð #ñ EÔDð#ð
 „×ÒØàØØØØØðñ
ô 
ð „×Ò˜ r¤z°2´:Ð&>Ñ?Ô?ð.ð .ñ @Ô?ñ
ô 
ð.ð „×ÒØàØØØØØðñ
ô 
ð0ð 0ñ
ô 
ð0ð Dð Dð Dð.?ð .?ð .?ð .?ð .?r*   