<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=Windows-1252">
<style type="text/css" style="display:none;"> P {margin-top:0;margin-bottom:0;} </style>
</head>
<body dir="ltr">
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
G'day Burt,</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
<br>
</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
We had an "interesting" issue with 10GBE at work a few months back, similar story in that packets seemed to be just black-holing into nowhere.</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
<br>
</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
Unfortunately what had occured is that an SFP+ Optic had failed on the Rx direction only, and as such none of the upstream switches detected the issue or reported any sort of broken/corrupt packets.</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
<br>
</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
I diagnosed it by seeing at first that all Tx/Rx stats on the switches were perfect, and no links were reporting down.</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
It seems that early versions of the Dell Force10 M IO Aggregators dont support proper stat collections or thresholding to trigger SNMP alarms.</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
<br>
</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
Only when a show tech was run was there a sneaky line that didnt directly say it was the issue, but turns out the counter was the Rx CRC Error Counter.</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
<br>
</div>
<div style="font-family: Calibri, Helvetica, sans-serif; font-size: 12pt; color: rgb(0, 0, 0);">
We changed out all the SFP+'s on the Dell end (to newer now "qualified" Optics)<span style="color: rgb(0, 0, 0); font-family: Calibri, Helvetica, sans-serif; font-size: 12pt;"> cleaned and scoped all flyleads and havent seen the issue since!</span></div>
<hr style="display:inline-block;width:98%" tabindex="-1">
<div id="divRplyFwdMsg" dir="ltr"><font face="Calibri, sans-serif" style="font-size:11pt" color="#000000"><b>From:</b> AusNOG <ausnog-bounces@lists.ausnog.net> on behalf of Burt Mascareigne <Burt@stormnetwork.com.au><br>
<b>Sent:</b> 08 November 2017 13:23<br>
<b>To:</b> <ausnog@lists.ausnog.net><br>
<b>Subject:</b> [AusNOG] 10GBs</font>
<div> </div>
</div>
<style>
<!--
@font-face
        {font-family:"Cambria Math"}
@font-face
        {font-family:Calibri}
p.x_MsoNormal, li.x_MsoNormal, div.x_MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif}
a:x_link, span.x_MsoHyperlink
        {color:#0563C1;
        text-decoration:underline}
a:x_visited, span.x_MsoHyperlinkFollowed
        {color:#954F72;
        text-decoration:underline}
span.x_EmailStyle17
        {font-family:"Calibri",sans-serif;
        color:windowtext}
.x_MsoChpDefault
        {font-family:"Calibri",sans-serif}
@page WordSection1
        {margin:72.0pt 72.0pt 72.0pt 72.0pt}
div.x_WordSection1
        {}
-->
</style>
<div lang="EN-AU" link="#0563C1" vlink="#954F72">
<div class="x_WordSection1">
<p class="x_MsoNormal">Hi Noggers</p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal">We’re having “fun” with 10GB NICS, Switches and SFPs.</p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal">We can’t work out which is causing drop out, packets.. we are somewhat certain packets are vanishing into the Ether..</p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal">We don’t know which is causing what. </p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal">I’m not after troubleshooting, I am curious what people’s view on this. 
</p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal">Do you buy 1 Vendor for all your 10GBs, A-Z, is there some hidden rule about mixing vendors, is this all trial and error (and very expensive at best)?</p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal">Any recommendations on set ups?  Preferred Vendors, Vender to avoid like the plague.  </p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal">We’re talking Servers to Switch kind of thing.  Not SANs etc.  Good ol’ HyperVisor to the switch.</p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal">Thanks </p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal"> </p>
<p class="x_MsoNormal"><span style=""> </span></p>
<p class="x_MsoNormal"><span lang="EN-US" style="font-size:10.0pt; font-family:"Arial",sans-serif; color:black"> </span></p>
<p class="x_MsoNormal"><span lang="EN-US" style="font-size:10.0pt; font-family:"Arial",sans-serif; color:black">Regards,</span></p>
<p class="x_MsoNormal"><span lang="EN-US" style="font-size:10.0pt; font-family:"Arial",sans-serif; color:black"> </span></p>
<p class="x_MsoNormal"><span lang="EN-US" style="font-size:10.0pt; font-family:"Arial",sans-serif; color:black"> </span></p>
<p class="x_MsoNormal"><b><span lang="EN-US" style="font-size:10.0pt; font-family:"Arial",sans-serif; color:black">Burt Mascareigne<br>
Mobile</span></b><span lang="EN-US" style="font-size:10.0pt; font-family:"Arial",sans-serif; color:black"> 0414 450 962   <b>Office</b> (02) 9965 5422<br>
<b>Address</b> Level 19, 1 O’Connell Street, Sydney NSW 2000<br>
<b>Web</b> <a href="http://www.stormnetwork.com.au/"><span style="color:#1F497D">http://www.stormnetwork.com.au</span></a><br>
</span><span style="font-size:10.0pt; font-family:"Arial",sans-serif; color:#1F497D"><img border="0" width="133" height="31" id="x_Picture_x0020_1" alt="01-300x70" style="width:1.3854in; height:.3229in" src="cid:image003.png@01D35894.BE9ADAA0"></span><span lang="EN-US" style="color:black"></span></p>
<p class="x_MsoNormal"> </p>
</div>
</div>
</body>
</html>