https://blog.csdn.net/junmuzi/article/details/79860000
Loss曲线震荡:
分析原因: 1:训练的batch_size太小
当数据量足够大的时候可以适当的减小batch_size,由于数据量太大，内存不够。但盲目减少会导致无法收敛，batch_size=1时为在线学习。
batch的选择，首先决定的是下降方向，如果数据集比较小，则完全可以采用全数据集的形式。这样做的好处有两点，
1）全数据集的方向能够更好的代表样本总体，确定其极值所在。
2）由于不同权重的梯度值差别巨大，因此选取一个全局的学习率很困难。
增大batchsize的好处有三点：
1）内存的利用率提高了，大矩阵乘法的并行化效率提高。
2）跑完一次epoch(全数据集)所需迭代次数减少，对于相同的数据量的处理速度进一步加快。
3）一定范围内，batchsize越大，其确定的下降方向就越准，引起训练震荡越小。
盲目增大的坏处：
1）当数据集太大时，内存撑不住。
2）batchsize增大到一定的程度，其确定的下降方向已经基本不再变化。
总结：
1）batch数太小，而类别又比较多的时候，可能会导致loss函数震荡而不收敛，尤其是在你的网络比较复杂的时候。 2）随着batchsize增大，处理相同的数据量的速度越快。 3）随着batchsize增大，达到相同精度所需要的epoch数量越来越多。 4）由于上述两种因素的矛盾， Batch_Size 增大到某个时候，达到时间上的最优。 5）过大的batchsize的结果是网络很容易收敛到一些不好的局部最优点。同样太小的batch也存在一些问题，比如训练速度很慢，训练不容易收敛等。 6）具体的batch size的选取和训练集的样本数目相关
分析原因: 2:数据输入不对
1:数据输入不对包括数据的格式不是网络模型指定的格式,导致训练的时候网络学习的数据不是想要的; 此时会出现loss曲线震荡;
解决办法:检查数据输入格式,数据输入的路径;
分析原因: 3:训练脚本里面的 路径是否配置正确;
1:当脚本中的train.bin的路径或者模型参数的路径配置不对时,会导致训练模型结果不对.
解决办法:检查脚本配置是否正确.
3.631244659423828 4.277276992797852 3.4001874923706055 3.2819108963012695 3.4272754192352295 2.9050307273864746 2.7736010551452637 2.847033739089966 2.4729552268981934 4.440995216369629 2.307797431945801 2.1008336544036865 2.466620922088623 2.2676243782043457 1.969132661819458 2.437302589416504 1.9292962551116943 2.15405535697937 1.8833298683166504 1.829939365386963 1.732532262802124 1.7975722551345825 1.7306126356124878 1.676507592201233 2.9463934898376465 1.3045339584350586 1.7723981142044067 1.4067282676696777 1.468611240386963 1.4186735153198242 0.9415404796600342 1.6150052547454834 1.6095631122589111 0.885555624961853 1.0574016571044922 1.1478734016418457 1.168555736541748 1.0630779266357422 1.0168201923370361 0.9928520917892456 1.19399094581604 0.961275577545166 0.7923461198806763 0.8234905004501343 0.6911094188690186 0.9140005111694336 0.7220140695571899 0.9943436980247498 0.9907949566841125 0.5654839873313904 0.8512718677520752 0.715724527835846 0.7509939670562744 0.9387508630752563 0.8550347089767456 0.7598782777786255 0.567537784576416 0.6126033067703247 0.5904215574264526 0.5920682549476624 0.6010233163833618 0.7254610061645508 0.5495939254760742 0.8441858291625977 0.589920163154602 0.5541341304779053 0.5843886733055115 0.8945625424385071 0.5798192620277405 0.5789198875427246 0.5559065341949463 0.5489385724067688 0.8170348405838013 0.5611698627471924 1.106087327003479 1.2542780637741089 0.6442005634307861 0.5374987721443176 0.6561795473098755 0.5969760417938232 0.6251747012138367 0.6731261014938354 0.4968392848968506 0.7668353915214539 0.5148111581802368 0.6758829355239868 0.4555553197860718 0.5510904788970947 0.518105685710907 0.6419368982315063 0.4927586317062378 0.4246860444545746 0.530096709728241 0.5234384536743164 0.637583315372467 0.41357070207595825 0.6415409445762634 0.4731366038322449 0.5326849222183228 0.5326491594314575 0.5951888561248779 0.5960622429847717 0.4792657792568207 0.6368740200996399 0.5376575589179993 0.4414084553718567 0.5167219638824463 0.43960267305374146 0.4408227205276489 0.39799073338508606 0.5388212203979492 0.4741312861442566 0.490905225276947 0.42930424213409424 0.4629552960395813 0.5302138924598694 0.5110839605331421 0.8326214551925659 0.43301448225975037 0.45150578022003174 0.4256107211112976 0.4495571255683899 0.3660065531730652 0.519312858581543 1.044168472290039 0.4861783981323242 0.48279333114624023 0.48650798201560974 0.7395334839820862 0.42119359970092773 0.421239972114563 0.44806426763534546 0.4084162712097168 0.510202169418335 0.5529817938804626 0.5671071410179138 0.39649498462677 0.7957494258880615 0.42164552211761475 0.4942944049835205 0.8569434881210327 0.8673572540283203 0.6162733435630798 0.4738346338272095 0.6230723857879639 0.392991304397583 0.5759700536727905 0.5696056485176086 0.43577590584754944 0.44623863697052 0.42870983481407166 0.5613734126091003 0.47602587938308716 0.4084908962249756 0.47623521089553833 0.4806351065635681 0.40266329050064087 0.49099674820899963 0.4355621337890625 0.3653572201728821 0.5127249956130981 0.3886403441429138 0.3852052688598633 0.39903828501701355 0.49566423892974854 0.4528924226760864 0.45237240195274353 0.469277024269104 0.4298412501811981 0.5207303166389465 0.3942962884902954 0.40493083000183105 0.3866637349128723 0.4007524251937866 0.3831777274608612 0.3971260190010071 0.272163063287735 0.32381582260131836 0.3752833604812622 0.3873761296272278 0.5383076071739197 0.33400440216064453 0.5231472253799438 0.4100990891456604 0.4251997470855713 0.5804166793823242 0.3905278742313385 0.4382404088973999 0.4064061641693115 0.44432777166366577 0.2765995264053345 0.43715524673461914 0.367666631937027 0.3575402796268463 0.38627758622169495 0.5474750399589539 0.4491044878959656 0.3925286531448364 0.4428943991661072 0.3414442837238312 0.3329288363456726 0.5092917084693909 0.44349831342697144 0.3556002378463745 0.33727023005485535 0.4216344952583313 0.3656751215457916 0.32108885049819946 0.3364829421043396 0.48901471495628357 0.30485326051712036 0.3115493953227997 0.39983421564102173 0.40351706743240356 0.5245190262794495 0.4017906188964844 0.46727824211120605 0.3577037453651428 0.3462332487106323 0.3814544081687927 0.4453304409980774 0.2763215899467468 0.31476572155952454 0.33403927087783813 0.3516809940338135 0.4140496850013733 0.3875176012516022 0.43732431530952454 0.3745408058166504 0.3294501006603241 0.33407214283943176 0.33013564348220825 0.44567301869392395 0.34717458486557007 0.3655347228050232 0.47459399700164795 0.3443141579627991 0.4150276184082031 0.4168779253959656 0.38757920265197754 0.31681597232818604 0.3374229073524475 0.26964253187179565 0.3800281286239624 0.4467450678348541 0.40193963050842285 0.2707461416721344 0.4022911787033081 0.28819191455841064 0.33131447434425354 0.525543749332428 0.353370726108551 0.25654271245002747 0.39808428287506104 0.35464411973953247 0.5065393447875977 0.2987635135650635 0.519165575504303 0.37853679060935974 0.39116981625556946 0.32726532220840454 0.3629111051559448 0.40087488293647766 0.3588184118270874 0.32782959938049316 0.46575820446014404 0.3466639220714569 0.3263406455516815 0.3013768494129181 0.29967373609542847 0.366590678691864 0.33417564630508423 0.3671889901161194 0.49466392397880554 0.3468253016471863 0.42985039949417114 0.3515942096710205 0.42000678181648254 0.44662487506866455 0.331708163022995 0.30544227361679077 0.35096654295921326 0.30791065096855164 0.25437110662460327 0.36739563941955566 0.3995353579521179 0.39515936374664307 0.30404067039489746 0.4906998872756958 0.3372914493083954 0.33286747336387634 0.35136598348617554 0.3557662069797516 0.37387898564338684 0.32162776589393616 0.36083513498306274 0.3116356134414673 0.27384209632873535 0.3060764968395233 0.30745255947113037 0.3380718231201172 0.3208606243133545 0.3611716032028198 0.37142160534858704 0.3560197055339813 0.3150256872177124 0.29220953583717346 0.3188002407550812 0.3133403956890106 0.33501654863357544 0.3962489366531372 0.3317451775074005 0.32488811016082764 0.43976545333862305 0.2870941758155823 0.5779418349266052 0.3135201930999756 0.29090702533721924 0.3780456781387329 0.36865150928497314 0.4718562960624695 0.35566940903663635 0.3227557837963104 0.44364118576049805 0.34516724944114685 0.35257863998413086 0.3783315420150757 0.44507870078086853 0.5327038764953613 0.3653353452682495 0.2764130234718323 0.3416410982608795 0.30687862634658813 0.5544548034667969 0.26665908098220825 0.3629205822944641 0.36883148550987244 0.3248864412307739 0.357496440410614 0.35256117582321167 0.37328770756721497 0.38608208298683167 0.3392177224159241 0.37323909997940063 0.42808395624160767 0.37370193004608154 0.2624128758907318 0.27266621589660645 0.2848811447620392 0.3059377670288086 0.30003607273101807 0.31227797269821167 0.29993948340415955 0.43770483136177063 0.3288011848926544 0.3904886841773987 0.4207862913608551 0.39205771684646606 0.25003090500831604 0.2566622495651245 0.2918277382850647 0.2948857545852661 0.2356146275997162 0.23059816658496857 0.289247989654541 0.38493943214416504 0.39785754680633545 0.2661091089248657 0.40397143363952637 0.37228262424468994 0.3855740427970886 0.4148397147655487 0.3565932512283325 0.31563472747802734 0.3804740011692047 0.3616656959056854 0.32334795594215393 0.3514068126678467 0.8428018093109131 0.350315123796463 0.31916725635528564 0.3647869825363159 0 0 0 0 0 0 0 0 0 0.3275986909866333 0.27335208654403687 0.27250203490257263 0.3440331220626831 0.3189094662666321 0.8863450288772583 0.41925913095474243 0.32249948382377625 0.544408917427063 0.2949984073638916 0.29392871260643005 0.3213801383972168 0.28348493576049805 0.32223376631736755 0.3754439651966095 0.3074414134025574 0.3750883936882019 0.2630549967288971 0.3026663661003113 0.3301438093185425 0.4279292821884155 0.35329824686050415 0.29136812686920166 0.3178834915161133 0.3273761570453644 0.34328606724739075 0.3127095699310303 0.34726589918136597 0.24076354503631592 0.3448655903339386 0.26444485783576965 0.28028813004493713 0.5433286428451538 0.31929588317871094 0.33541932702064514 0.2897336781024933 0.2852504253387451 0.40402621030807495 0.24135559797286987 0.30628272891044617 0.31641268730163574 0.2356542944908142 0.24361711740493774 0.3904041051864624 0.3284875154495239 0.2234601080417633 0.3541017770767212 0.29917195439338684 0.31997036933898926 0.2731221318244934 0.35131025314331055 0.25890812277793884 0.2046050727367401 0.2652924656867981 0.26984965801239014 0.31597188115119934 0.2725186049938202 0.25080540776252747 0.3624499440193176 0.3439518213272095 0.3366168737411499 0.2606908082962036 0.40978145599365234 0.24171116948127747 0.24249163269996643 0.3158213496208191 0.27493613958358765 0.25728145241737366 0.26099395751953125 0.2374838888645172 0.32398444414138794 0.4923587143421173 0.28387388586997986 0.3253827691078186 0.27025842666625977 0.29177433252334595 0.4021012485027313 0.42490440607070923 0.276147723197937 0.2487342804670334 0.2915349304676056 0.2688252627849579 0.3014569878578186 0.38640862703323364 0.29989832639694214 0.26693302392959595 0.3230275511741638 0.38706788420677185 0.2098037302494049 0.3115406930446625 0.30108028650283813 0.27036747336387634 0.409422904253006 0.2539377510547638 0.2891118824481964 0.4007963240146637 0.6118305921554565 0.33345645666122437 0.2420176863670349 0.4107058644294739 0.23587551712989807 0.25389477610588074 0.2932562232017517 0.28540709614753723 0.25328055024147034 0.1511702984571457 0.2110729068517685 0.2389432191848755 0.37174999713897705 0.21052716672420502 0.2869877219200134 0.2647014856338501 0.2420794665813446 0.27407631278038025 0.23902598023414612 0.27227863669395447 0.250460684299469 0.2695981562137604 0.5696824789047241 0.31281012296676636 0.22672095894813538 0.3105478882789612 0.2330927699804306 0.2447517216205597 0.19130894541740417 0.23639509081840515 0.27107539772987366 0.22830504179000854 0.34352394938468933 0.2487824559211731 0.2987324893474579 0.21228331327438354 0.1942882537841797 0.2107526957988739 0.3108288049697876 0.18956172466278076 0.31775403022766113 0.2500176727771759 0.3196449875831604 0.248599112033844 0.21214041113853455 0.19905437529087067 0.28878453373908997 0.2011795938014984 0.2383929044008255 0.30825692415237427 0.2053469717502594 0.25049421191215515 0.2197379469871521 0.25000712275505066 0.15190839767456055 0.20513859391212463 0.24104706943035126 0.29521217942237854 0.18053880333900452 0.22900600731372833 0.24043580889701843 0.21653415262699127 0.23068496584892273 0.30489861965179443 0.19360046088695526 0.19490310549736023 0.18229754269123077 0.1742507815361023 0.21436166763305664 0.25480490922927856 0.1800387054681778 0.262489914894104 0.22908559441566467 0.3208036720752716 0.2012021690607071 0.21491070091724396 0.21296162903308868 0.20862674713134766 0.1959822177886963 0.22548606991767883 0.27803143858909607 0.15770362317562103 0.2984330356121063 0.2814730703830719 0.2508516311645508 0.21711869537830353 0.15864329040050507 0.18825414776802063 0.23268631100654602 0.1735927015542984 0.23662656545639038 0.24640819430351257 0.23801369965076447 0.253336638212204 0.25687915086746216 0.3074268102645874 0.18850642442703247 0.2211231142282486 0.20159859955310822 0.23882368206977844 0.18669338524341583 0.2031240165233612 0.22031927108764648 0.2308349460363388 0.20311662554740906 0.13140423595905304 0.29576048254966736 0.14473357796669006 0.18151620030403137 0.20912352204322815 0.21742185950279236 0.179896742105484 0.27119097113609314 0.19200193881988525 0.19344574213027954 0.2178458869457245 0.185756653547287 0.25580084323883057 0.1457345187664032 0.21588893234729767 0.2857955992221832 0.2566016912460327 0.22772717475891113 0.3188568353652954 0.24081116914749146 0.2538525462150574 0.2077014446258545 0.24856257438659668 0.3534700870513916 0.17775210738182068 0.16043007373809814 0.2460242509841919 0.28056731820106506 0.23904761672019958 0.2484477460384369 0.26954635977745056 0.19970592856407166 0.21852287650108337 0.18085919320583344 0.20032867789268494 0.26654958724975586 0.3134830892086029 0.17407286167144775 0.24660034477710724 0.14300432801246643 0.16099941730499268 0.28595849871635437 0.2947388291358948 0.2503722310066223 0.20782941579818726 0.3021184802055359 0.20501872897148132 0.20926889777183533 0.23466713726520538 0.20753131806850433 0.2201598733663559 0.3846798539161682 0.21412810683250427 0.21006202697753906 0.2880427837371826 0.20540136098861694 0.2723652422428131 0.24850249290466309 0.21764123439788818 0.2639247477054596 0.17948494851589203 0.23207682371139526 0.2082086056470871 0.31549298763275146 0.1733434647321701 0.18621496856212616 0.16883111000061035 0.3670118451118469 0.19585038721561432 0.22274306416511536 0.26171302795410156 0.1701194941997528 0.14667575061321259 0.15963715314865112 0.14996075630187988 0.14691194891929626 0.16733261942863464 0.18941104412078857 0.20144794881343842 0.23402348160743713 0.1721661537885666 0.21810829639434814 0.2721531093120575 0.2530941367149353 0.12636427581310272 0.22197026014328003 0.2443312555551529 0.2305443286895752 0.34196069836616516 0.1347241997718811 0.26647263765335083 0.24132904410362244 0.23369047045707703 0.17175385355949402 0.17848706245422363 0.19065918028354645 0.2457459270954132 0.1465376913547516 0.20877057313919067 0.24831877648830414 0.16612181067466736 0.21619939804077148 0.15840868651866913 0.17791970074176788 0.22212238609790802 0.14545683562755585 0.20348185300827026 0.1444052904844284 0.22159148752689362 0.22584079205989838 0.249233216047287 0.17145872116088867 0.17838329076766968 0.18131765723228455 0.1913565844297409 0.23742324113845825 0.184933602809906 0.16913995146751404 0.21335570514202118 0.22088773548603058 0.1914328932762146 0.17097273468971252 0.17673522233963013 0.19139286875724792 0.13711929321289062 0.1798136979341507 0.19556975364685059 0.21913886070251465 0.19925585389137268 0.15688933432102203 0.14891543984413147 0.17596909403800964 0.20519226789474487 0.13208507001399994 0.14771538972854614 0.21316485106945038 0.16058814525604248 0.14987236261367798 0.20678752660751343 0.1557185798883438 0.1995425671339035 0.16066616773605347 0.3005002737045288 0.19602558016777039 0.22431424260139465 0.18665286898612976 0.2737465798854828 0.21071772277355194 0.15084517002105713 0.2277480959892273 0.19786444306373596 0.18626385927200317 0.31349602341651917 0.15776927769184113 0.21152657270431519 0.1475381851196289 0.25832289457321167 0.17866672575473785 0.25228771567344666 0.1464996486902237 0.17320913076400757 0.152947336435318 0.21788965165615082 0.1352570354938507 0.31220322847366333 0.11512356996536255 0.15582573413848877 0.1687261462211609 0.1912025809288025 0.32126492261886597 0.20850765705108643 0.1281297653913498 0.12043198943138123 0.16584274172782898 0.11017389595508575 0.10985025763511658 0.30369696021080017 0.15899258852005005 0.1880364716053009 0.14834366738796234 0.2176980972290039 0.12065009027719498 0.19051435589790344 0.12254102528095245 0.1845407783985138 0.24938645958900452 0.31676873564720154 0.23509517312049866 0.728661298751831 0.1587482988834381 0.27161258459091187 0.20170821249485016 0.12431012094020844 0.15515652298927307 0.12206439673900604 0.22050024569034576 0.14123985171318054 0.2887517511844635 0.236287921667099 0.17209075391292572 0.23958393931388855 0.1508292853832245 0.10646740347146988 0.06847938895225525 0.27996528148651123 0.15916657447814941 0.22046853601932526 0.175980806350708 0.17886938154697418 0.18426235020160675 0.1483306586742401 0.15917788445949554 0.12751755118370056 0.2097470760345459 0.14465315639972687 0.14883899688720703 0.15560701489448547 0.12296992540359497 0.10308459401130676 0.14829829335212708 0.19295324385166168 0.2319525182247162 0.196629136800766 0.20915263891220093 0.11556664854288101 0.13573570549488068 0.18138033151626587 0.2115175724029541 0.23411017656326294 0.1670091301202774 0.22366099059581757 0.20091266930103302 0.1814931184053421 0.15886521339416504 0.13770648837089539 0.21264228224754333 0.15366193652153015 0.21630704402923584 0.14803072810173035 0.2096031904220581 0.22812846302986145 0.09756370633840561 0.15767765045166016 0.13927200436592102 0.2057926058769226 0.22735194861888885 0.1750849038362503 0.18146739900112152 0.07523153722286224 0.12939468026161194 0.17108072340488434 0.1423034965991974 0.16294844448566437 0.09318066388368607 0.16018325090408325 0.20557326078414917 0.12938177585601807 0.10825290530920029 0.09782692790031433 0.2197922170162201 0.1066613644361496 0.1619829684495926 0.15133006870746613 0.10539864003658295 0.19627241790294647 0.14873772859573364 0.14916110038757324 0.12166554480791092 0.44032084941864014 0.18523427844047546 0.18829110264778137 0.1034637913107872 0.08175232261419296 0.14151054620742798 0.1586769074201584 0.172386035323143 0.1754962056875229 0.14413785934448242 0.12612749636173248 0.16681139171123505 0.12674766778945923 0.125240758061409 0.13039806485176086 0.14064382016658783 0.12004780769348145 0.13240233063697815 0.13293638825416565 0.18089410662651062 0.1501837819814682 0.18342509865760803 0.17066527903079987 0.13637582957744598 0.16811710596084595 0.14581157267093658 0.1256047785282135 0.15126466751098633 0.14761415123939514 0.20748521387577057 0.21119800209999084 0.13612812757492065 0.13433697819709778 0.12264393270015717 0.09731687605381012 0.15591704845428467 0.10378395020961761 0.1246953010559082 0.11858873069286346 0.17397767305374146 0.1180434301495552 0.10795922577381134 0.2287379652261734 0.14227871596813202 0.12276241183280945 0.2121969759464264 0.14954029023647308 0.14895132184028625 0.11982929706573486 0.2018560767173767 0.14029064774513245 0.08819766342639923 0.11568377166986465 0.289040744304657 0.17016339302062988 0.12876927852630615 0.10668846219778061 0.12623555958271027 0.11942563951015472 0.15374299883842468 0.103894904255867 0.11821752041578293 0.2565363645553589 0.143790602684021 0.17662811279296875 0.15127292275428772 0.19004158675670624 0.08259963989257812 0.12926682829856873 0.14598219096660614 0.20468895137310028 0.21614021062850952 0.17572198808193207 0.10600132495164871 0.1454198807477951 0.13163620233535767 0.1698390692472458 0.06525754928588867 0.11180279403924942 0.10321604460477829 0.0949222594499588 0.15737567842006683 0.17682147026062012 0.21927900612354279 0.17587138712406158 0.12125292420387268 0.1334492266178131 0.1884487420320511 0.1316266804933548 0.15645752847194672 0.1449328362941742 0.15599149465560913 0.11434757709503174 0.13294926285743713 0.14203181862831116 0.11222358047962189 0.18796098232269287 0.14709898829460144 0.1131640151143074 0.21602803468704224 0.14701969921588898 0.11115274578332901 0.08889825642108917 0.09581706672906876 0.11077044904232025 0.11356936395168304 0.08907675743103027 0.07871149480342865 0.1510348916053772 0.14207148551940918 0.19085489213466644 0.19043932855129242 0.09869827330112457 0.18964272737503052 0.16890543699264526 0.13493172824382782 0.15467338263988495 0.16483178734779358 0.0847272053360939 0.10300932079553604 0.13841485977172852 0.18890489637851715 0.15914222598075867 0.14991231262683868 0.09770353138446808 0.2558082938194275 0.15627658367156982 0.12844085693359375 0.09326408803462982 0.09277073293924332 0.13401712477207184 0.1150587648153305 0.08166390657424927 0.10601168870925903 0.179132342338562 0.16429995000362396 0.13586823642253876 0.10214385390281677 0.09860945492982864 0.14566557109355927 0.1613071709871292 0.06958737969398499 0.21151947975158691 0.09078730642795563 0.13871516287326813 0.13058193027973175 0.08504233509302139 0.14740446209907532 0.1319270133972168 0.09053705632686615 0.2269730567932129 0.12831224501132965 0.1135053038597107 0.18808794021606445 0.13307078182697296 0.05675496533513069 0.10446221381425858 0.199478417634964 0.18945014476776123 0.11306100338697433 0.1766950935125351 0.08527126908302307 0.14850306510925293 0.1035715863108635 0.1891385167837143 0.20389685034751892 0.21256396174430847 0.09785261750221252 0.10606589913368225 0.12697765231132507 0.09665336459875107 0.07194408774375916 0.1531079262495041 0.07859243452548981 0.15223385393619537 0.1085231676697731 0.21802081167697906 0.09476803988218307 0.20246243476867676 0.17378297448158264 0.16547107696533203 0.10730767250061035 0.24290026724338531 0.08287625759840012 0.0935128778219223 0.13066047430038452 0.10141491144895554 0.08813425898551941 0.16270926594734192 0.1097419336438179 0.08215614408254623 0.06011316925287247 0.10360196232795715 0.10437194257974625 0.1690519154071808 0.1362144649028778 0.05670894682407379 0.14625327289104462 0.10264725983142853 0.15381377935409546 0.17153720557689667 0.16665995121002197 0.06446635723114014 0.10093864798545837 0.2273123562335968 0.1414411962032318 0.08774019777774811 0.09106601774692535 0.16398052871227264 0.08436640352010727 0.11265655606985092 0.15506407618522644 0.11120191961526871 0.20138031244277954 0.09372632205486298 0.10373292863368988 0.12709619104862213 0.13036997616291046 0.1662125587463379 0.09442631900310516 0.22531825304031372 0.08053149282932281 0.1880892515182495 0.16223663091659546 0.14504702389240265 0.08069965243339539 0.19128037989139557 0.09000333398580551 0.09821651875972748 0.12757769227027893 0.10805663466453552 0.18928277492523193 0.10424649715423584 0.10206370055675507 0.13277924060821533 0.10345767438411713 0.1049094945192337 0.1367717683315277 0.07788778841495514 0.17626747488975525 0.08596339821815491 0.09557648748159409 0.10034771263599396 0.18622326850891113 0.10446048527956009 0.13375885784626007 0.10782532393932343 0.13333813846111298 0.22549006342887878 0.07690520584583282 0.1429927796125412 0.11272245645523071 0.08608944714069366 0.07409070432186127 0.06300321966409683 0.1578034907579422 0.07789911329746246 0.11428849399089813 0.10157448798418045 0.12230502814054489 0.2034454047679901 0.1950666308403015 0.10411479324102402 0.11363529413938522 0.1855141818523407 0.11551778018474579 0.125848188996315 0.147832989692688 0.10025420784950256 0.06506979465484619 0.16279415786266327 0.12105058133602142 0.11296440660953522 0.10170957446098328 0.0846884548664093 0.07234424352645874 0.07886422425508499 0.0975765585899353 0.13828420639038086 0.19435831904411316 0.13918907940387726 0.08044213056564331 0.10206042230129242 0.13118016719818115 0.07411575317382812 0.16006386280059814 0.07657024264335632 0.10920050740242004 0.11433800309896469 0.110295370221138 0.09153899550437927 0.13589775562286377 0.0697547048330307 0.05845789611339569 0.21514904499053955
