如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<div class="article-content" style="margin:0px 0px 24px;padding:0px;line-height:28px;color:rgb(34,34,34);font-family:'PingFang SC','Hiragino Sans GB','Microsoft YaHei','WenQuanYi Micro Hei','Helvetica Neue',Arial,sans-serif;background-color:rgb(255,255,255);"><div style="margin:0px;padding:0px;line-height:28px;"><p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">有时,数据科学家必须仔细查看这些细节才能提高性能在这种情况下,最好自己亲手构建此类模型,这可以帮助你最大程度地控制网络。因此在本文中,我们将仅使用 NumPy 尝试创建 CNN。我们会创建三个层,即卷积层(简称 conv)、ReLU 层和最大池化层。所涉及的主要步骤如下:

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">滤波器组的大小由上述 0 数组指定,但不是由滤波器的实际值指定。可以按如下方式覆写这些值,以检测垂直和水平边缘。

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">3. 卷积

<p style="margin-top:16px;">在准备好滤波器之后,下一步就是用它们对输入图像执行卷积操作。下面一行使用 conv 函数对图像执行卷积操作:

<pre style="font-family:Consolas,Menlo,Courier,monospace;font-size:1em;white-space:normal;">1. l1_feature_map = conv(img,l1_filter)<p style="margin-top:16px;">此类函数只接受两个参数,即图像和滤波器组,实现如下:

<pre style="font-family:Consolas,monospace;font-size:1em;white-space:normal;">1. def conv(img,conv_filter): 2. if len(img.shape) > 2 or len(conv_filter.shape) > 3: # Check if number of image channels matches the filter depth. 3. if img.shape[-1] != conv_filter.shape[-1]: 4. print("Error: Number of channels in both image and filter must match.") 5. sys.exit() 6. if conv_filter.shape[1] != conv_filter.shape[2]: # Check if filter dimensions are equal. 7. print('Error: Filter must be a square matrix. I.e. number of rows and columns must match.') 8. sys.exit() 9. if conv_filter.shape[1]%2==0: # Check if filter diemnsions are odd. 10. print('Error: Filter must have an odd size. I.e. number of rows and columns must be odd.') 11. sys.exit() 12. 13. # An empty feature map to hold the output of convolving the filter(s) with the image. 14. feature_maps = numpy.zeros((img.shape[0]-conv_filter.shape[1]+1,15. img.shape[1]-conv_filter.shape[1]+1,16. conv_filter.shape[0])) 17. 18. # Convolving the image by the filter(s). 19. for filter_num in range(conv_filter.shape[0]): 20. print("Filter ",filter_num + 1) 21. curr_filter = conv_filter[filter_num,:] # getting a filter from the bank. 22. """ 23. Checking if there are mutliple channels for the single filter. 24. If so,then each channel will convolve the image. 25. The result of all convolutions are summed to return a single feature map. 26. """ 27. if len(curr_filter.shape) > 2: 28. convmap = conv(img[:,:,0],curr_filter[:,0]) # Array holding the sum of all feature maps. 29. for ch_num in range(1,curr_filter.shape[-1]): # Convolving each channel with the image and summing the results. 30. conv_map = convmap + conv(img[:,ch_num],31. curr_filter[:,ch_num]) 32. else: # There is just a single channel in the filter. 33. convmap = conv(img,curr_filter) 34. feature_maps[:,filter_num] = conv_map # Holding feature map with the current filter. 35. return feature_maps # Returning all feature maps.<p style="margin-top:16px;">该函数首先确保每个滤波器的深度等于图像通道的数量。在下面的代码中,外部的 if 语句将检查通道和滤波器是否有深度。如果有,则内部 if 语句检查它们是否相等,如果不匹配,脚本将退出

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">特征图大小将与上述代码中的(img_rows-filter_rows+1,image_columns-filter_columns+1,num_filters)值相等。请注意,滤波器组中的每个滤波器都有一个输出特征图。因此将滤波器组(conv_filter.shape[0])中的滤波器数量将指定为第三个参数。

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">如果要卷积的图像通道数大于 1,则滤波器深度必须与通道数量相等。在这种情况下,卷积是通过将每个图像通道与其在滤波器中对应的通道进行卷积来完成的。最后的结果加起来就是输出特征图。如果图像只有一个通道,则卷积将非常容易。此类行为由 if-else 块决定:

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">它在图像上迭代,并根据以下代码提取与滤波器大小相等的区域:

<pre style="font-family:Consolas,monospace;font-size:1em;white-space:normal;">1. curr_region = img[r:r+filter_size,c:c+filter_size]<p style="margin-top:16px;">然后,它在区域和滤波器之间应用逐元素乘法,并根据以下代码对它们求和,以获取单个值作为输出

<pre style="font-family:Consolas,monospace;font-size:1em;white-space:normal;">1. #Element-wise multipliplication between the current region and the filter. 2. curr_result = curr_region * conv_filter3. conv_sum = numpy.sum(curr_result) #Summing the result of multiplication. 4. result[r,c] = conv_sum #Saving the summation in the convolution layer feature map.<p style="margin-top:16px;">在滤波器对输入图像执行卷积操作之后,特征图由 conv 函数返回。下图为此类卷积层返回的特征图。

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">卷积层的输出将被应用到 ReLU 层。

<p style="margin-top:16px;">4. ReLU 层

<p style="margin-top:16px;">ReLU 层对卷积层返回的每个特征图应用 ReLU 激活函数。根据以下代码使用 relu 函数使用它:

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">这很简单。只要循环地将 ReLU 函数应用于特征图中的每个元素,并在特征图中的原始值大于 0 时将其返回。其他情况下返回 0。ReLU 层的输出如下图所示。

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">ReLU 层的输出将馈送到最大池化层。

<p style="margin-top:16px;">5. 最大池化层

<p style="margin-top:16px;">最大池化层接受 ReLU 层的输出,并根据以下代码应用最大池化操作:

<pre style="font-family:Consolas,monospace;font-size:1em;white-space:normal;">1. l1_feature_map_relu_pool = pooling(l1_feature_map_relu,2,2)<p style="margin-top:16px;">最大池化层使用 pooling 函数实现,如下所示:

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">该函数接受三个输入,即 ReLU 层的输出、池化掩码大小和步长。它只需创建一个空数组,如前所述,用于保存此类层的输出。此类数组的大小是根据大小和步长参数指定的,如以下代码所示:

<pre style="font-family:Consolas,monospace;font-size:1em;white-space:normal;">1. pool_out = numpy.zeros((numpy.uint16((feature_map.shape[0]-size+1)/stride),2. numpy.uint16((feature_map.shape[1]-size+1)/stride),3. feature_map.shape[-1]))<p style="margin-top:16px;">然后,它会根据循环变量 map_num 和外部循环一个一个通道地处理图像。最大池操作将应用于输入中的每个通道。根据所使用的步长和大小裁剪区域,根据以下代码输出数组中返回最大值:

<pre style="font-family:Consolas,monospace;font-size:1em;white-space:normal;">pool_out[r2,c2,map_num] = numpy.max(feature_map[r:r+size,c:c+size])<p style="margin-top:16px;">这种池化层的输出如下图所示。请注意,池化层输出要小于其输入,即使它们在图形中看起来大小相同。

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">6. 层级的堆叠

<p style="margin-top:16px;">至此,具有卷积、ReLU 和最大池化层的 CNN 体系架构已经完成。除了前面提到的层以外,还可以堆叠其它层来加深网络。

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">前一卷积层使用 3 个滤波器,其值随机生成。因此,这种卷积层会带来 3 个特征图。后面的 ReLU 层和池化层也是如此,这些层的输出如下所示:

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<pre style="font-family:Consolas,monospace;font-size:1em;white-space:normal;">1. # Third conv layer2. l3_filter = numpy.random.rand(1,7,l2_feature_map_relu_pool.shape[-1]) 3. print(" Working with conv layer 3") 4. l3_feature_map = conv(l2_feature_map_relu_pool,l3_filter) 5. print(" ReLU") 6. l3_feature_map_relu = relu(l3_feature_map) 7. print(" Pooling") 8. l3_feature_map_relu_pool = pooling(l3_feature_map_relu,2) 9. print("End of conv layer 3 ")<p style="margin-top:16px;">下图显示了前几层的输出。前一卷积层仅使用一个滤波器,因此只有一个特征图作为输出

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">但是请记住,前面每一层的输出是下一层的输入,例如以下代码接受先前的输出作为它们的输入。

<p style="margin-top:16px;">

如何使用纯NumPy代码从头实现简单的卷积神经网络!这篇文章真叼

<p style="margin-top:16px;">欢迎关注我的博客或者公众号:https://home.cnblogs.com/u/Python1234/ Python学习交流

<p style="margin-top:16px;">欢迎加入我的千人交流答疑群:125240963

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


我最近重新拾起了计算机视觉,借助Python的opencv还有face_recognition库写了个简单的图像识别demo,额外定制了一些内容,原本想打包成exe然后发给朋友,不过在这当中遇到了许多小问题,都解决了,记录一下踩过的坑。 1、Pyinstaller打包过程当中出现warning,跟d
说到Pooling,相信学习过CNN的朋友们都不会感到陌生。Pooling在中文当中的意思是“池化”,在神经网络当中非常常见,通常用的比较多的一种是Max Pooling,具体操作如下图: 结合图像理解,相信你也会大概明白其中的本意。不过Pooling并不是只可以选取2x2的窗口大小,即便是3x3,
记得大一学Python的时候,有一个题目是判断一个数是否是复数。当时觉得比较复杂不好写,就琢磨了一个偷懒的好办法,用异常处理的手段便可以大大程度帮助你简短代码(偷懒)。以下是判断整数和复数的两段小代码: 相信看到这里,你也有所顿悟,能拓展出更多有意思的方法~
文章目录 3 直方图Histogramplot1. 基本直方图的绘制 Basic histogram2. 数据分布与密度信息显示 Control rug and density on seaborn histogram3. 带箱形图的直方图 Histogram with a boxplot on t
文章目录 5 小提琴图Violinplot1. 基础小提琴图绘制 Basic violinplot2. 小提琴图样式自定义 Custom seaborn violinplot3. 小提琴图颜色自定义 Control color of seaborn violinplot4. 分组小提琴图 Group
文章目录 4 核密度图Densityplot1. 基础核密度图绘制 Basic density plot2. 核密度图的区间控制 Control bandwidth of density plot3. 多个变量的核密度图绘制 Density plot of several variables4. 边
首先 import tensorflow as tf tf.argmax(tenso,n)函数会返回tensor中参数指定的维度中的最大值的索引或者向量。当tensor为矩阵返回向量,tensor为向量返回索引号。其中n表示具体参数的维度。 以实际例子为说明: import tensorflow a
seaborn学习笔记章节 seaborn是一个基于matplotlib的Python数据可视化库。seaborn是matplotlib的高级封装,可以绘制有吸引力且信息丰富的统计图形。相对于matplotlib,seaborn语法更简洁,两者关系类似于numpy和pandas之间的关系,seabo
Python ConfigParser教程显示了如何使用ConfigParser在Python中使用配置文件。 文章目录 1 介绍1.1 Python ConfigParser读取文件1.2 Python ConfigParser中的节1.3 Python ConfigParser从字符串中读取数据
1. 处理Excel 电子表格笔记(第12章)(代码下载) 本文主要介绍openpyxl 的2.5.12版处理excel电子表格,原书是2.1.4 版,OpenPyXL 团队会经常发布新版本。不过不用担心,新版本应该在相当长的时间内向后兼容。如果你有新版本,想看看它提供了什么新功能,可以查看Open
1. 发送电子邮件和短信笔记(第16章)(代码下载) 1.1 发送电子邮件 简单邮件传输协议(SMTP)是用于发送电子邮件的协议。SMTP 规定电子邮件应该如何格式化、加密、在邮件服务器之间传递,以及在你点击发送后,计算机要处理的所有其他细节。。但是,你并不需要知道这些技术细节,因为Python 的
文章目录 12 绘图实例(4) Drawing example(4)1. Scatterplot with varying point sizes and hues(relplot)2. Scatterplot with categorical variables(swarmplot)3. Scat
文章目录 10 绘图实例(2) Drawing example(2)1. Grouped violinplots with split violins(violinplot)2. Annotated heatmaps(heatmap)3. Hexbin plot with marginal dist
文章目录 9 绘图实例(1) Drawing example(1)1. Anscombe’s quartet(lmplot)2. Color palette choices(barplot)3. Different cubehelix palettes(kdeplot)4. Distribution
Python装饰器教程展示了如何在Python中使用装饰器基本功能。 文章目录 1 使用教程1.1 Python装饰器简单示例1.2 带@符号的Python装饰器1.3 用参数修饰函数1.4 Python装饰器修改数据1.5 Python多层装饰器1.6 Python装饰器计时示例 2 参考 1 使
1. 用GUI 自动化控制键盘和鼠标第18章 (代码下载) pyautogui模块可以向Windows、OS X 和Linux 发送虚拟按键和鼠标点击。根据使用的操作系统,在安装pyautogui之前,可能需要安装一些其他模块。 Windows: 不需要安装其他模块。OS X: sudo pip3
文章目录 生成文件目录结构多图合并找出文件夹中相似图像 生成文件目录结构 生成文件夹或文件的目录结构,并保存结果。可选是否滤除目录,特定文件以及可以设定最大查找文件结构深度。效果如下: root:[z:/] |--a.py |--image | |--cat1.jpg | |--cat2.jpg |
文章目录 VENN DIAGRAM(维恩图)1. 具有2个分组的基本的维恩图 Venn diagram with 2 groups2. 具有3个组的基本维恩图 Venn diagram with 3 groups3. 自定义维恩图 Custom Venn diagram4. 精致的维恩图 Elabo
mxnet60分钟入门Gluon教程代码下载,适合做过深度学习的人使用。入门教程地址: https://beta.mxnet.io/guide/getting-started/crash-course/index.html mxnet安装方法:pip install mxnet 1 在mxnet中使
文章目录 1 安装2 快速入门2.1 基本用法2.2 输出图像格式2.3 图像style设置2.4 属性2.5 子图和聚类 3 实例4 如何进一步使用python graphviz Graphviz是一款能够自动排版的流程图绘图软件。python graphviz则是graphviz的python实